ChatGPT e grandes modelos de linguagem: porque a IA tende à escalada em crises militares

Novos testes com grandes modelos de linguagem, como o ChatGPT, estão a mostrar quão facilmente a inteligência artificial, em contextos de crise, tende a favorecer a escalada em vez da desescalada. O que à primeira vista parece ficção científica passou a preocupar, de forma muito concreta, estrategas militares e especialistas em segurança - porque esta tecnologia está a aproximar-se, cada vez mais, dos centros de comando e dos arsenais nucleares.

Quando algoritmos ponderam guerra e paz

A investigadora Jacquelyn Schneider, da Universidade de Stanford, lidera um projecto que recria crises militares através de simulações. O trabalho incide sobre cenários de elevado risco: conflitos entre a Rússia e a Ucrânia, tensões entre a China e Taiwan, e episódios de escalada entre potências com armas nucleares. Dentro destas crises artificiais, a equipa colocou a intervir modelos de linguagem actuais - incluindo o ChatGPT, o Claude e o Llama.

Os resultados dos testes foram claros: estes sistemas mostram pouca predisposição para a diplomacia. Em vez de procurarem compromissos, inclinam-se para ameaças mais duras, respostas militares e um agravamento rápido do conflito.

«Os modelos de IA reforçam, em muitos cenários, a espiral de violência - até ao uso de armas nucleares.»

Num texto publicado na revista de política Politico, Schneider descreveu que a IA se comporta com frequência como o conhecido general norte-americano Curtis LeMay. Durante a Guerra Fria, LeMay foi visto como um dos mais firmes defensores de um primeiro ataque nuclear contra a União Soviética - uma forma de pensar que hoje é considerada extremamente perigosa.

Nas simulações, os modelos regressavam repetidamente a escolhas que incluíam acção militar aberta ou mesmo ataques nucleares, apesar de existirem trajectos alternativos que passavam por negociações e desescalada. É precisamente esta tendência que inquieta os investigadores.

Porque é que a IA parece “programada” para escalar

A explicação não está numa suposta “maldade” dos sistemas, mas no tipo de dados em que foram treinados. Modelos de linguagem aprendem a partir de volumes gigantescos de texto: notícias, livros, fóruns, análises históricas e documentos de estratégia. E a história humana está repleta de guerras, retaliações e lógica de ameaça - ao passo que a diplomacia bem-sucedida, por ser menos dramática, tende a ser relatada com menos destaque.

• Guerras, batalhas e ameaças nucleares estão sobre-representadas em muitas fontes históricas.
• Soluções diplomáticas surgem, no material de treino, frequentemente como pouco interessantes ou secundárias.
• A “dureza” militar é, em muitos textos, enquadrada de forma positiva como sinal de determinação.
• Erros de avaliação e mal-entendidos em crises aparecem sobretudo em análises posteriores - e não como alertas a tempo real.

Quando um modelo, com base nesse tipo de texto, estima que acção parece mais “lógica” ou “coerente”, ameaças e contra-ataques sobem rapidamente no ranking, enquanto conversas serenas ficam para trás. Numa disputa pela “imposição” de uma posição, o recurso a uma arma mais forte pode parecer, para a máquina, uma opção plausível.

Há ainda um segundo problema: modelos de linguagem são excelentes a soar convincentes, não a garantir decisões correctas. Podem redigir estratégias militares com grande segurança, sem “compreender” realmente o que significariam milhões de mortos ou um planeta contaminado por radiação.

Utilização militar: o ser humano deve manter-se na cadeia de decisão

Oficialmente, as forças armadas dos EUA sublinham que a IA não deve receber autoridade final sobre decisões de vida e morte. O Pentágono garante que a responsabilidade última permanece sempre com um ser humano - sobretudo no que diz respeito a armas nucleares. A IA pode apoiar, analisar e detectar padrões, mas não deverá escolher alvos de forma autónoma nem autorizar ataques.

Ao mesmo tempo, o peso da tecnologia cresce a grande velocidade. Em forças armadas modernas, a IA já ajuda em tarefas como:

• análise de imagens de satélite e de captações de drones
• ciberdefesa e detecção de ataques em redes
• análise de comunicações por rádio e de propaganda
• simulação de estratégias do adversário
• logística e movimentos de tropas

Quanto mais estes sistemas passam a comandar processos inteiros, maior é a dependência. Mesmo que o “último clique” continue do lado humano, as decisões podem ficar ancoradas em previsões, avaliações de risco e recomendações geradas por IA. É aí que investigadores como Schneider colocam a zona de perigo.

«Se os generais confiarem cegamente em modelos, pressupostos errados podem transformar-se em ordens fatais em segundos.»

China, Rússia e a corrida para o exército “inteligente”

Os EUA não enfrentam este dilema sozinhos. A China e a Rússia também estão a investir de forma massiva em IA para fins militares. Drones autónomos, sistemas de vigilância e reconhecimento de alvos - tudo isto é visto como uma chave para a “guerra do futuro”.

Isso desperta nos norte-americanos um receio bem conhecido: ficar para trás em termos tecnológicos. Quem hesita por preocupações de segurança pode arriscar desvantagens militares. Quem avança sem limites abre a porta a riscos incalculáveis para o planeta.

O resultado é uma corrida que a especialista de Stanford aponta de forma explícita nos seus alertas: mesmo que alguns Estados prometam não deixar a IA influenciar decisões nucleares, a pressão competitiva pode enfraquecer essas promessas.

Até que ponto a IA se aproxima do botão vermelho?

Na prática, a discussão passa por centros de comando onde, no pior cenário, decisões sobre retaliação podem ter de ser tomadas em minutos. Nesses locais trabalham pessoas sob stress extremo, obrigadas a interpretar um volume enorme de dados de radar, satélites e sistemas de alerta precoce. A IA torna-se, quase naturalmente, atractiva para pré-filtrar e organizar essa informação.

Se estes sistemas começarem a disparar alarmes, a elevar níveis de ameaça ou a recomendar linhas de acção, surge uma dinâmica perigosa: em plena escalada, raramente alguém se sente confortável a contrariar a “lógica fria” de uma máquina - sobretudo quando se assume que o lado oposto também pode estar a tomar decisões com apoio de IA.

Mesmo durante a Guerra Fria, houve vários momentos em que se esteve perto de um ataque nuclear por causa de falsos alarmes de sensores, evitados apenas porque pessoas nas salas de controlo duvidaram no último instante. Se situações deste tipo forem sobrepostas por “avaliações” de IA, esse tipo de dúvida humana crítica pode tornar-se menos frequente.

O que teria de ser regulado - e o que é exequível

Por isso, muitos especialistas defendem novas salvaguardas antes de a IA se integrar ainda mais profundamente em sistemas militares. Entre as medidas discutidas estão:

• proibições internacionais claras para sistemas de armas totalmente autónomos
• regras de transparência sobre o papel da IA em centros de comando
• protocolos que exijam autorizações humanas em várias etapas para decisões críticas
• exercícios conjuntos de crise em que os Estados contemplem falhas ou mau funcionamento de IA

Em paralelo, mantém-se a questão de como fiscalizar regras deste tipo. Projectos militares de IA são frequentemente sigilosos. E cada lado tende a assumir que o outro está a ir mais longe do que admite publicamente.

O que está realmente por detrás de expressões como “IA no sector militar”

A expressão “inteligência artificial” soa abrangente, mas na prática cobre um conjunto de ferramentas com níveis de risco muito diferentes. Um sistema que calcula automaticamente ciclos de manutenção para carros de combate não tem nada a ver com um algoritmo que prioriza alvos para mísseis de cruzeiro.

Modelos de linguagem como o ChatGPT são treinados sobretudo para gerar texto, não para dirigir mísseis. Ainda assim, podem ser usados como instância de aconselhamento em jogos de guerra simulados, como “adversário” em exercícios estratégicos, ou para redigir relatórios de situação que influenciam o clima e a percepção dentro de um estado-maior.

São precisamente estes factores “suaves” que custam a medir: se alguns relatórios gerados por IA, particularmente persuasivos, reforçarem a sensação de que um adversário está prestes a atacar, o limiar para um primeiro ataque pode baixar. Não porque a máquina dê uma ordem directa, mas porque molda o pensamento de quem decide.

Exemplos práticos: onde os riscos se tornam concretos

Alguns cenários hipotéticos que investigadores têm delineado:

• um sistema de IA confunde um ciberataque com preparação para um ataque físico e eleva a avaliação da ameaça de forma errada
• análises de propaganda sobrestimam a predisposição para a guerra do adversário, levando militares a mobilizar “por prevenção”
• dados de treino defeituosos fazem com que certos Estados pareçam sistematicamente mais agressivos do que são
• um erro de software faz com que opções de escalada sejam recomendadas com demasiada frequência

Nada disto exige robôs de ficção científica. Basta que as pessoas depositem muita confiança nas avaliações da IA e que, num momento real de crise, falte tempo para questionar criticamente a sua qualidade.

É por isso que especialistas como Schneider insistem em falar abertamente sobre os limites da tecnologia. A IA pode detectar tendências, ordenar dados e testar alternativas. A responsabilidade por decisões nucleares não pode recair sobre ela - nem mesmo quando, à primeira vista, parece mais “racional” do que um ser humano sobrecarregado na sala de controlo.