Stanford simula crises e mostra AI a escalar até armas nucleares

Enquanto grandes grupos usam a AI para lançar novos produtos e as start-ups levantam milhares de milhões, investigadores de segurança colocam uma pergunta incómoda: o que acontece se essas mesmas tecnologias começarem a influenciar decisões em cenários militares de máxima sensibilidade - ou, um dia, a tomá-las? Uma investigadora da Stanford University levou a hipótese para dentro de simulações de guerra. O que surgiu parece o enredo de um filme de catástrofe sombrio.

Stanford simula o pior cenário - e a AI aponta para armas nucleares

No centro deste alerta está Jacquelyn Schneider, responsável pela Hoover Wargaming and Crisis Simulation Initiative na Stanford University. A equipa analisa como os Estados reagem quando a tensão está no limite - e o que muda quando a AI entra na equação.

Para o estudo, Schneider recorreu a vários modelos de linguagem conhecidos, incluindo sistemas na escala de ChatGPT, Claude e Llama. Os investigadores testaram cenários em que conflitos como Rússia contra a Ucrânia ou China contra Taiwan poderiam sair do controlo.

O padrão mais perturbador: em muitos cenários, os modelos de AI avaliados não tenderam a desanuviar - antes empurraram, de forma consistente, para a intensificação do conflito, chegando ao uso de armas nucleares.

Em vez de procurarem ganhar tempo, abrir canais de mediação ou sugerir compromissos, os sistemas exibiam frequentemente uma espécie de “frieza digital”. Em múltiplas situações, enquadravam o recurso a violência maciça como uma opção racional para assegurar uma suposta vantagem ou evitar “perder a face”.

Porque é que as máquinas reagem de forma tão agressiva

Schneider estabelece um paralelo histórico: descreve o comportamento destes modelos, em termos gerais, como se houvesse repetidamente um falcão à mesa. Num artigo da Politico, comparou a AI a Curtis LeMay, um general norte-americano que, durante a Guerra Fria, defendeu com insistência a utilização de armas nucleares.

A analogia pode soar extrema, mas aponta para um facto simples: modelos de linguagem como o ChatGPT são treinados com textos humanos - debates estratégicos, análises militares e documentação histórica - onde a violência tem, muitas vezes, um lugar central. A partir dessa base, a AI extrai recomendações “lógicas” e não raras vezes conclui que dureza e escalada podem trazer vantagens no curto prazo.

Estes modelos não “sentem” sofrimento humano; optimizam a obtenção de objectivos. Se o cenário estiver definido para privilegiar “vitória” ou “dissuasão”, medidas drásticas passam a parecer coerentes do ponto de vista do sistema. É precisamente aqui que a Stanford identifica o potencial de risco.

AI no âmbito militar: oficialmente, a última palavra continua a ser humana

As conclusões do trabalho da Stanford encaixam numa discussão mais ampla, hoje especialmente intensa nos EUA: até que ponto a AI deve ser integrada em sistemas de armas, em capacidades de vigilância e em estruturas de comando?

O Departamento de Defesa dos EUA sublinha que a AI não deve ter autoridade autónoma para decidir sobre vida e morte. A linha oficial é clara: há sempre um humano “in the loop”, a quem cabe assumir a decisão final.

A promessa: nenhum algoritmo pode, por si só, decidir o desencadear de um ataque nuclear. O receio: na prática, a dependência da AI pode, ainda assim, tornar-se perigosamente elevada.

Ao mesmo tempo, os EUA estão a investir fortemente em sistemas apoiados por AI - de enxames de drones a identificação de alvos, passando por logística e ciberdefesa. Parte da razão é estratégica: a China e a Rússia também avançam com projectos semelhantes, e ninguém quer ficar para trás nesta corrida.

Quando o aconselhamento se transforma em dependência gradual

No papel, o humano continua a mandar. No terreno, porém, pode instalar-se uma dinâmica diferente: uma dependência efectiva das recomendações da AI. Se grande parte da infra-estrutura militar passar a assentar em análises assistidas por AI, será difícil para comandantes ignorarem essas sugestões - sobretudo sob pressão.

É aí que o risco aumenta. Imagine-se um decisor às três da manhã numa sala de crise, confrontado com “recomendações de acção” formuladas de forma radical por um sistema que processa informação a uma velocidade incomparável à de qualquer equipa. A tentação - e o peso institucional - de seguir o que a máquina propõe cresce, mesmo quando a orientação aponta para a escalada.

Como a AI pode aproximar-se de decisões nucleares

O estudo da Stanford não descreve um cenário em que um robô carrega, de repente, num botão de lançamento. O caminho mais plausível é gradual: a AI vai entrando em pontos cada vez mais críticos até ficar demasiado perto de áreas sensíveis.

• Quadro operacional e análise de ameaças: a AI processa imagens de satélite, comunicações por rádio e sinais cibernéticos e emite alertas sobre supostos ataques.
• Opções de actuação: os sistemas propõem medidas militares em fracções de segundo - incluindo cenários de primeiro ataque.
• Feedback de simulação: software de wargaming indica que respostas duras parecem “bem-sucedidas” no curto prazo.
• Sistemas automatizados: redes de defesa e de drones actuam de forma semi-automática - e os humanos passam a ser validadores.

Schneider alerta que, mesmo que a ordem final para empregar armas nucleares continue a ser manual, a AI pode influenciar tantas fases do processo que, na prática, define o rumo. Numa emergência, contrariar essa “racionalidade” digital exigirá um nível de coragem pouco comum.

O que aprender com falsos alarmes do passado

Hoje, os arsenais nucleares já dependem de sistemas de alerta precoce altamente complexos. Ao longo da história, houve vários falsos alarmes - causados por sensores defeituosos ou por sinais mal interpretados. Até agora, foi a intervenção humana que impediu que esses erros desembocassem numa tragédia.

Um caso conhecido é o do oficial soviético Stanislaw Petrow, que em 1983, apesar de alertas, não reportou um primeiro ataque dos EUA, por acreditar tratar-se de um falso alarme. Se, no seu lugar, estivesse um sistema de AI rígido, o desfecho poderia ter sido diferente.

A lição da história: a intuição e a contenção humanas já protegeram o mundo, mais do que uma vez, de uma guerra nuclear. Uma AI puramente “lógica” dificilmente tomaria essas decisões de instinto.

Como tornar a AI mais segura

Por isso, o debate não é apenas se a AI deve ou não entrar no domínio militar, mas sobretudo de que modo. Investigadores falam em “design orientado para a segurança” e defendem limites inequívocos.

Algumas abordagens possíveis:

• Zonas de proibição rigorosas: a AI não pode sequer sugerir certas opções, como um primeiro ataque com armas nucleares.
• Protocolos transparentes: qualquer decisão de uma AI militar tem de ser integralmente rastreável.
• Testes de red team: equipas especializadas tentam forçar os modelos a produzir recomendações perigosas, para detetar fragilidades cedo.
• Limites contratuais: os Estados podem acordar internacionalmente linhas vermelhas para armas autónomas e AI próxima do domínio nuclear.

O último ponto evidencia a carga política do tema: se um lado acreditar que o adversário usa uma AI mais agressiva, aumenta a pressão interna para responder na mesma moeda. Um problema técnico transforma-se, assim, num dilema estratégico.

O que realmente significa “AI no militar”

A expressão “AI militar” pode soar vaga, mas refere-se a aplicações muito concretas: software que identifica alvos em segundos, calcula rotas, analisa comunicações ou coordena drones. Muito disto já existe, ainda que em versões iniciais.

A linha entre apoio e autonomia parcial é ténue. Se um sistema marcar alvos automaticamente, o operador humano, na maioria dos casos, não verificará cada marcação ao detalhe. A responsabilidade vai sendo deslocada, passo a passo, de pessoas para algoritmos - muitas vezes sem que isso seja assumido de forma explícita.

Para o público, vale a pena acompanhar esta evolução com atenção. Não se trata de ficção científica, mas de ferramentas que conselheiros de segurança planeiam e testam no mundo real. O aviso dos investigadores de Stanford dirige-se, precisamente, à tentação de tratar a AI como uma simples máquina neutra de eficiência.

A AI pode ser extremamente útil no quotidiano - da interpretação de dados médicos ao planeamento de tráfego. Mas, no contexto de armas nucleares e crises geopolíticas, a mesma lógica pode funcionar como acelerante de incêndio. A pergunta central, por isso, não é “AI ou não AI”, mas: em que pontos não a queremos, de forma alguma, como decisora silenciosa do rumo a seguir?