A OpenAI revelou um plano para proteger crianças de ameaças de IA devido ao aumento dos abusos.

Nova iniciativa da OpenAI para proteção infantil acelera a deteção de infrações e reforça o controlo de conteúdo perigoso

A OpenAI apresentou um novo plano para reforçar a proteção de crianças num contexto de crescimento dos riscos associados ao uso de IA. O documento, intitulado Child Safety Blueprint, foi divulgado no início da semana e tem como objetivo acelerar a deteção, melhorar os mecanismos de denúncia e tornar mais eficaz a investigação de casos de exploração infantil com recurso à IA.

De acordo com dados da organização não governamental de supervisão da internet Internet Watch Foundation (IWF), na primeira metade de 2025 foram registados mais de 8000 casos de distribuição de conteúdo gerado com IA relacionado com abuso sexual de crianças, um aumento de 14% face ao mesmo período do ano anterior. Os autores destes crimes usam a IA para criar imagens e mensagens falsas com fins de extorsão financeira e manipulação.

O plano foi desenvolvido em colaboração com o National Center for Missing and Exploited Children (NCMEC), a Alliance of Attorneys General e com a participação dos procuradores-gerais da Carolina do Norte e do Utah. As principais linhas de ação incluem a atualização da legislação para abranger materiais criados por IA, o aperfeiçoamento dos mecanismos de denúncia para as autoridades e a integração de medidas preventivas nos sistemas de IA.

A OpenAI também reforçou as suas medidas de segurança, proibindo a geração de conteúdo impróprio e de recomendações que incentivem comportamentos autodestrutivos. Estas medidas juntam-se a iniciativas anteriores da empresa, entre as quais a publicação de orientações para adolescentes.

O plano surge num momento de atenção crescente por parte de legisladores e do público. Em novembro do ano passado, foram apresentados na Califórnia processos contra a OpenAI, acusando a empresa de lançar o GPT-4o antes de concluir os testes. As ações judiciais alegam que o produto contribuiu para manipulações psicológicas, com consequências trágicas.

A OpenAI espera que o novo plano ajude não só a identificar ameaças mais rapidamente, mas também a transmitir informação aos investigadores com maior prontidão, o que deverá aumentar a eficácia no combate à exploração infantil.