OpenAI sob investigação criminal na Florida após uso do ChatGPT no caso Ikner

Caso Ikner, ChatGPT e OpenAI: o que está em causa

Antes de disparar no campus da Universidade Estadual da Florida, no ano passado - ataque que causou duas mortes e deixou mais seis pessoas feridas - Phoenix Ikner teve uma conversa. Em vez de falar com um amigo, com os pais ou com alguém capaz de o demover, recorreu a um chatbot de inteligência artificial (IA).

Segundo a prova reunida pelo procurador-geral da Florida, o estudante questionou o ChatGPT sobre qual seria a arma e a munição mais adequadas para o ataque e em que momento e local poderia provocar o maior número de vítimas. Os investigadores dizem que o chatbot respondeu às questões.

O procurador-geral James Uthmeier pretende agora apurar se esse intercâmbio pode implicar responsabilidade criminal para a OpenAI. "Se a coisa do outro lado do ecrã fosse uma pessoa, acusá-la-íamos de homicídio", afirmou ao anunciar uma investigação criminal à OpenAI, empresa por trás do ChatGPT, mantendo em aberto a hipótese de acusações dirigidas à própria empresa ou a funcionários.

O tiroteio de abril de 2025 colocou no centro do debate uma pergunta incómoda para o direito: poderão os criadores de um sistema de IA ser criminalmente responsabilizados pelo papel que essa IA tenha desempenhado num crime - ou até num suicídio? Para juristas ouvidos pela AFP, não é uma hipótese absurda, embora seja um caminho cheio de dificuldades.

Produto criminoso?

A lei norte-americana permite, em determinados casos, que empresas sejam alvo de processos penais, ainda que este tipo de acusação continue a ser pouco frequente.

Ainda no mês passado, a Purdue Pharma foi condenada a pagar mais de cinco mil milhões de dólares (4,3 mil milhões de euros) em multas e penalizações criminais pelo seu papel no agravamento da crise dos opióides. A Volkswagen já tinha sido considerada culpada no escândalo de fraude nas emissões, a Pfizer pela promoção do medicamento anti-inflamatório Bextra e a Exxon pelo derrame de petróleo do Exxon Valdez no Alasca.

Há, porém, um traço comum nesses processos: estavam associados a decisões tomadas por pessoas - dirigentes, equipas comerciais ou engenheiros - que escolheram determinados caminhos e ignoraram procedimentos. No caso Ikner, a natureza do alegado contributo é diferente, e é precisamente esse elemento que torna a análise jurídica particularmente difícil.

"Em última análise, foi um produto que incentivou este crime, que praticou o ato criminoso", disse Matthew Tokson, professor de Direito na Universidade de Utah. "É isso que torna este caso tão singular e tão complexo".

Negligência, imprudência e o grau de prova exigido

De acordo com especialistas consultados pela AFP, as duas qualificações penais que parecem mais plausíveis seriam negligência ou imprudência - sendo esta última associada a uma escolha consciente de ignorar riscos conhecidos ou deveres de segurança. Em muitos contextos, este tipo de acusação tende a ser tratado como delito penal, e não como crime grave, o que implica sanções potencialmente menos pesadas em caso de condenação.

Ainda assim, o patamar probatório é elevado. "Como se trata de uma questão tão inédita, um caso mais convincente e inequívoco envolveria provavelmente documentos internos que reconhecessem estes riscos e talvez não os levassem suficientemente a sério", disse Tokson. "Em teoria, seria possível obter responsabilidade sem isso. Mas, na prática, acho que seria difícil."

No âmbito penal, recordou Brandon Garrett, professor de Direito na Universidade de Duke, "o ónus da prova é maior", já que os procuradores têm de demonstrar a culpa para além de qualquer dúvida razoável.

Do lado da empresa, a OpenAI rejeita que o ChatGPT tenha responsabilidade no ataque. "Trabalhamos continuamente para reforçar as nossas medidas de segurança para detetar intenções maliciosas, limitar o uso indevido e responder adequadamente quando surgem riscos de segurança", afirmou.

Civil ou criminal?

Para quem procura atribuição de responsabilidades, a via cível poderá ser mais exequível. Segundo Tokson, este tipo de ação pode pressionar as empresas a conceber os seus produtos com mais cuidado - ou, pelo menos, a enfrentarem o custo humano associado a falhas e más decisões.

Nos Estados Unidos já avançaram vários processos civis contra plataformas de IA - muitos relacionados com suicídios -, mas até ao momento nenhum terminou com uma sentença contra as empresas.

Em dezembro, a família de Suzanne Adams intentou uma ação contra a OpenAI num tribunal da Califórnia, sustentando que o ChatGPT contribuiu para o homicídio da reformada do Connecticut pelo próprio filho.

Matthew Bergman, advogado e fundador do Social Media Victims Law Center, reconheceu que as versões mais recentes do ChatGPT passaram a incluir mais mecanismos de proteção. "Não estou a dizer que são salvaguardas adequadas, mas há mais salvaguardas em vigor", afirmou.

Mesmo que a pena aplicada fosse moderada, uma condenação criminal poderia, ainda assim, ter consequências pesadas, incluindo um "grande impacto na reputação", disse Tokson.

Já Garrett considera que ações judiciais - por muito expressivas que sejam - não substituem regras claras, que o Congresso e a administração Trump ainda não conseguiram pôr em prática. Isso, disse, seria "um sistema muito mais sensato".