As autoridades dos EUA reuniram bancos urgentemente devido à nova IA da Anthropic e aos riscos de ciberataques.

Modelo Claude Mythos da Anthropic provoca receios sobre a estabilidade do sistema financeiro

O secretário do Tesouro dos EUA, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, reuniram-se de urgência com os responsáveis pelos maiores bancos numa altura em que crescem as preocupações em torno do novo modelo de inteligência artificial da Anthropic. O encontro teve lugar em Washington e centrou-se nos potenciais riscos de cibersegurança que podem surgir com a evolução deste tipo de sistemas.

Segundo fontes citadas, a reunião foi organizada para garantir que os bancos estão a par das ameaças possíveis e a tomar medidas para proteger os seus sistemas. O catalisador foi o modelo Claude Mythos, que a Anthropic descreve como uma ferramenta capaz de aumentar de forma significativa a eficácia na identificação e exploração de vulnerabilidades em software.

De acordo com a empresa, «os modelos de IA mais avançados já ultrapassam quase tudo, à exceção dos especialistas mais experientes» na deteção de falhas. Na Anthropic, alertou-se ainda que as consequências poderão estender-se à economia, à segurança pública e à segurança nacional.

A situação ganhou ainda mais peso após a fuga de código do modelo, registada anteriormente. Na sequência desse episódio, a empresa restringiu o acesso ao Mythos, disponibilizando-o apenas a um conjunto limitado de parceiros, entre os quais grandes tecnológicas e organizações de infraestruturas.

Estiveram presentes na reunião os líderes de bancos norte-americanos considerados sistemicamente importantes, incluindo os responsáveis máximos do Goldman Sachs, Bank of America, Citigroup, Morgan Stanley e Wells Fargo. Estas instituições são vistas como essenciais para o sistema financeiro, e qualquer perturbação no seu funcionamento pode ter efeitos alargados.

Jamie Dimon, presidente executivo do JPMorgan Chase, que não esteve presente no encontro, afirmou anteriormente na sua carta anual aos acionistas que a cibersegurança continua a ser uma das principais ameaças e que a evolução da IA deverá, muito provavelmente, agravar esse risco.

Segundo a Anthropic, o modelo Mythos já identificou milhares de vulnerabilidades em software, incluindo algumas que existiam há até 27 anos e que nunca tinham sido detetadas pelos programadores. Isso reforça o receio de que ferramentas deste género possam ser aproveitadas por agentes maliciosos para comprometer sistemas e contornar mecanismos de proteção.

A evolução do caso insere-se num debate mais amplo sobre os riscos da IA. No passado, as autoridades norte-americanas incluíram a Anthropic numa lista de riscos potenciais para as cadeias de abastecimento, medida que a empresa contesta em tribunal.