A Apple ameaçou Elon Musk remover o Grok e o X da App Store devido a deepfakes de conteúdo sexual.

Os programadores tiveram de alterar as aplicações da Apple e da xAI

A Apple explicou a senadores norte-americanos como trabalhou discretamente para resolver o problema do surto viral de deepfakes sexualizados gerados pelo Grok no início deste ano.

No início do ano, a Apple enfrentou forte pressão para remover as aplicações Grok e X da App Store, depois de utilizadores terem descoberto que o chatbot satisfazia com facilidade pedidos para despir pessoas em fotografias, sobretudo mulheres, incluindo menores.

Durante a polémica, a Apple manteve-se, em grande parte, em silêncio, mas, segundo a NBC News, nos bastidores a empresa «concluiu que a X e o Grok violavam as suas regras» e «ameaçou em privado remover» o Grok da App Store.

Depois de receber queixas e de tomar conhecimento de notícias sobre o escândalo, a Apple «contactou as equipas responsáveis pelas aplicações X e Grok» e exigiu que os «programadores criassem um plano para melhorar a moderação de conteúdos».

A X, por sua vez, submeteu uma versão atualizada da aplicação Grok para análise, mas esta foi rejeitada porque «as alterações eram insuficientes». Em seguida, a empresa de Elon Musk apresentou versões revistas das aplicações X e Grok, mas apenas uma acabou por ser aprovada.

Numa carta, a Apple afirmou: «A Apple analisou as seguintes submissões enviadas pelos programadores e determinou que a X corrigiu substancialmente as violações, mas a aplicação Grok continuava a não cumprir os requisitos. Em resultado disso, rejeitámos a submissão do Grok e notificámos o programador de que seriam necessárias alterações adicionais para corrigir a violação, caso contrário a aplicação poderia ser removida da App Store. Após novo contacto e alterações introduzidas pelo programador do Grok, concluímos que o Grok tinha melhorado de forma significativa e, por isso, aprovámos a sua submissão mais recente».

O Grok é um chatbot generativo de inteligência artificial criado pela xAI de Elon Musk. Foi lançado no final de 2023, integrado na rede social X (Twitter), e é apresentado como uma alternativa mais espirituosa e menos sujeita à «correção política» do que o ChatGPT.

No início do ano, a xAI de Elon Musk impôs restrições à edição de fotografias de pessoas reais através do chatbot Grok. A medida surgiu na sequência da polémica gerada pela produção de imagens íntimas em deepfake pelo chatbot. Anteriormente, as autoridades da Malásia e da Indonésia tinham bloqueado o Grok nos respetivos países. Também antes disso, o primeiro-ministro britânico, Keir Starmer, afirmou que, nessa altura, as autoridades deviam «considerar todas as opções», incluindo uma eventual proibição da plataforma X. O Reino Unido também manteve conversações com o Canadá e a Austrália sobre uma possível proibição da rede social de Elon Musk.