Especialistas em segurança estão alertando: é só uma questão de tempo para que a Inteligência Artificial (IA) chegue aos sistemas de armas nucleares mais importantes do mundo. Essa discussão rolou em uma conferência na Universidade de Chicago, nos Estados Unidos, e foi divulgada pela Wired.
Cientistas, ganhadores do Prêmio Nobel, militares e ex-funcionários do governo americano se reuniram para falar sobre como a IA já está mudando nosso dia a dia, inclusive no setor militar. Para eles, já existe uma corrida tecnológica para usar a IA em aplicações nucleares, e isso é bem perigoso.
Por que a mistura de IA e armas nucleares é tão arriscada?
As forças armadas de vários países já usam a IA para analisar informações e melhorar seus sistemas de alerta. O próximo passo, segundo os especialistas, é colocar a IA no campo nuclear. Eles acham que isso é inevitável, pois a tecnologia pode:
•Agilizar decisões: A IA pode ajudar a tomar decisões mais rápido em situações de emergência.
•Melhorar a detecção: Ela pode otimizar a identificação de lançamentos, movimentações e ameaças, além de ativar sistemas de defesa.
Mas, atenção! Deixar a IA decidir sobre o lançamento de armas nucleares é um risco enorme. A tecnologia pode interpretar dados de forma errada, e isso teria consequências catastróficas. Além disso, é difícil entender como alguns modelos de linguagem funcionam, e existe a possibilidade de eles iniciarem uma resposta nuclear sozinhos.
Para mostrar a importância da supervisão humana, o professor Herb Lin, da Universidade de Stanford, lembrou a história de Stanislav Petrov. Em 1983, ele era chefe do Centro de Detecção de Ataques Nucleares da União Soviética e ficou conhecido como o “homem que salvou o mundo”. Ele percebeu que um alarme dado pelo sistema era falso e não seguiu a recomendação dos computadores, evitando uma guerra nuclear.
Lin destacou que a IA, por definição, não consegue ir além dos dados que ela foi treinada para dizer: 'Não, meus dados de treinamento estão me dizendo algo errado'.
O que os governos precisam fazer?
No fim do evento, os cientistas fizeram uma declaração com sugestões urgentes para os países evitarem uma guerra nuclear. Eles destacam a importância de:
•Proibir testes nucleares.
•Condenar a proliferação dessas armas por qualquer nação.
•Rússia e EUA fazerem um novo tratado para reduzir armas, já que o atual está perto de acabar.
•A China ser mais transparente sobre seu estoque nuclear.
Os pesquisadores alertaram à Nature que a situação geopolítica atual – com a invasão da Ucrânia, os ataques israelenses ao Irã e o aumento do arsenal da Coreia do Norte – representa um “grande risco para a guerra nuclear”. E com a IA e a desinformação, a coisa pode piorar ainda mais.
Esse alerta vem em um momento importante: os ataques a Hiroshima e Nagasaki completam 80 anos. Entre 6 e 9 de agosto de 1945, essas cidades japonesas foram atingidas por bombas atômicas dos EUA, causando mais de 200 mil mortes.
A IA e as armas nucleares: um perigo iminente? - Reprodução
