Collien Fernandes, IA e Deepfakes: um alerta real

As luzes do estúdio são intensas, quase desconfortavelmente cruas.

Collien Ulmen-Fernandes está na maquilhagem - a rotina habitual: pó, pincéis, retoques finais. No monitor do corredor, passa um segmento sem som em que um rosto conhecido diz coisas que ela nunca disse. Há imagens de corte, movimentos labiais, tudo perfeitamente sincronizado - só que as frases foram geradas por um algoritmo. Alguém lhe mostra, no telemóvel, um vídeo falso dela própria: montado, com palavras alheias na sua boca. Bastam poucos segundos para sentir um frio a subir-lhe pelo corpo. Todos reconhecemos esse instante em que se torna óbvio: aquilo que estamos a ver pode ser mentira - e uma mentira assustadoramente convincente.

Quando a própria identidade vira matéria-prima

Collien Fernandes descreve esse choque como perder o controlo do próprio rosto. Estás a ver-te, estás a ouvir a tua voz, mas há qualquer coisa estranha, tóxica, que não te pertence. Para muita gente, isto continua a soar a tema “de tecnologia”, algo distante. Para ela, tornou-se íntimo de um dia para o outro - quase físico. De repente, já não é ficção científica: é o medo muito real de alguém fazer o que quiser com a tua “casca” digital. Um clique, um upload, e um vídeo falso da Collien começa a circular em conversas privadas algures.

O que lhe aconteceu representa uma vaga de relatos que vem à tona em surdina, mas cada vez com mais frequência. Influenciadoras cujos rostos são colados a vídeos pornográficos. Políticos a quem são atribuídas declarações inventadas. Pessoas comuns com a voz clonada para enganar a avó ao telefone e pedir dinheiro. Segundo um inquérito recente da Bitkom, mais de 20 por cento dos alemães já viveram conscientemente um falso gerado por IA - ou viram o caso acontecer no seu círculo. E a realidade pode ser ainda maior: muita gente nem sequer suspeita que está a ver um deepfake.

Nada disto é magia: é um sistema alimentado por cada segundo de imagem e áudio que publicamos. Quanto mais selfies, stories e entrevistas existem, mais simples se torna replicar rostos e vozes. Antes, era preciso um estúdio e efeitos especiais; hoje, chega um portátil, alguma paciência e alguém minimamente habilidoso. A fronteira entre “brincadeira” e ataque é assustadoramente baixa. E, sejamos honestos: no dia a dia, ninguém analisa cada vídeo e cada nota de voz com rigor forense.

Como nos podemos proteger na prática - sem entrar em pânico

Primeiro, a verdade menos agradável: não existe protecção a 100% contra abuso de IA. Ainda assim, há formas de reduzir a exposição e perceber mais depressa quando algo descamba. O lado prático começa no básico: tornar o perfil privado, evitar divulgar todos os detalhes da vida em público, e não deixar disponíveis vídeos em grande plano e alta resolução. Para quem tem visibilidade pública, como Collien Fernandes, esta margem é mais limitada. Para as restantes pessoas, funciona como um cinto de segurança digital: não se vê, mas pode fazer toda a diferença quando importa.

O segundo pilar é transformar a desconfiança em hábito - sem cair na paranoia. Se alguém telefonar com uma voz que “parece” de um familiar, confirmar rapidamente. Devolver a chamada para o número conhecido, fazer uma pergunta de controlo que só pessoas próximas saberiam responder. E com vídeos que mexem com as emoções - supostos escândalos, cenas íntimas, “gravações” alegadamente divulgadas - manter sempre uma distância mínima. Todos conhecemos o impulso de partilhar imediatamente aquilo que nos choca. É exactamente esse reflexo que os atacantes exploram.

Fernandes sublinha, em entrevistas, que foi essencial procurar conversa quando foi confrontada com a hipótese de existirem conteúdos falsos. Em vez de se esconder, trazer o assunto a público. Parece simples, mas pode ser uma ferramenta poderosa - sobretudo para quem tem audiência.

“O que mais me assusta não é a tecnologia”, diz Collien, em sentido lato, “mas sim a facilidade com que as pessoas acreditam em falsos quando encaixam na sua visão do mundo.”

• Falar em vez de calar quando surge um falso - quem é visado precisa de aliados.
• Definir limites, também perante as plataformas, e denunciar os conteúdos de forma consistente.
• Alertar o próprio círculo, para que pais, avós e crianças reconheçam fraudes com IA.
• Travar as emoções: pensar primeiro, partilhar depois - nunca ao contrário.

Porque é que o caso de Collien Fernandes interessa a todos

A experiência de Collien Fernandes funciona como uma lente de aumento sobre uma tendência que já está em marcha. O que antes afectava sobretudo celebridades e políticos está a infiltrar-se no quotidiano de utilizadores comuns. Quanto mais tempo vivemos online, maior fica a nossa “sombra de dados” - e mais material os sistemas de IA podem aproveitar. De repente, não é apenas a palavra-passe que vale; vale também o teu riso numa nota de voz, o teu rosto num vídeo de férias, ou a expressão ligeiramente irritada numa reunião por Zoom. A partir disso, constrói-se uma cópia digital suficientemente credível para destruir confiança.

A constatação fria é esta: o direito, a tecnologia e a consciencialização ainda estão atrasados em relação ao ritmo do problema. Surgem leis contra deepfakes, as plataformas experimentam marcas de água e ferramentas de detecção, e as escolas lançam projectos de literacia mediática. Mas enquanto comissões debatem, há sempre uma aplicação a gerar a próxima chamada falsa para uma senhora idosa que quer “salvar o neto”. É sombrio, sim - e também um aviso realista. Quem hoje acha que “isto não me diz respeito” subestima a rapidez com que uma fotografia de uma festa pode cair num contexto errado.

Talvez sejam precisos casos de figuras públicas para o tema sair da bolha tecnológica. Quando alguém como Collien Fernandes relata como é sentir essa estranheza de se ver “por fora” e não se reconhecer, a discussão sobre IA deixa de ser abstracta e vira uma história profundamente humana: confiança, identidade e a pergunta de fundo sobre em quem ainda podemos acreditar na internet. E, sim, assusta - mas também nos obriga a estar mais atentos. Partilhar com cuidado, falar sobre o assunto e contrariar falsidades: são alavancas pequenas, mas reais, ao alcance de qualquer pessoa.

Ponto central	Detalhe	Valor para o leitor
Falsos com IA tornam-se mais pessoais	Rostos e vozes podem ser copiados de forma convincente com pouco esforço	Cresce a consciência de que qualquer pessoa pode ser afectada, e não apenas figuras públicas
Estratégias de protecção para o dia a dia	Menos material público, truque do retorno da chamada, distância emocional antes de partilhar	Passos concretos para reduzir riscos de burla e detectar sinais de alerta mais cedo
Comunicação aberta	Não esconder falsos: nomear, denunciar e acompanhar mediaticamente	Reforça quem é visado, reduz o impacto da desinformação e da vergonha

FAQ:

• Pergunta 1 O que aconteceu exactamente com Collien Fernandes? Foi confrontada com a possibilidade de estarem a circular conteúdos gerados por IA com o seu rosto ou a sua voz - um cenário que muitas figuras públicas enfrentam actualmente. A partir daí, fez um alerta público sobre o abuso de IA e deepfakes.
• Pergunta 2 Isto também pode acontecer a pessoas comuns? Sim. Assim que fotografias, vídeos ou notas de voz ficam disponíveis de forma pública ou semi-pública, podem, em teoria, ser usados para falsos. Muitas vezes basta material de redes sociais ou de grupos de mensagens que foi reencaminhado.
• Pergunta 3 Como posso reconhecer falsos feitos por IA? Indícios comuns incluem expressões faciais ligeiramente artificiais, padrões de pestanejar estranhos, reflexos de luz no rosto que não batem certo, ou uma voz que soa subtilmente “alisada”. Contradições de contexto - local errado, hora errada - também são sinais fortes.
• Pergunta 4 O que devo fazer se existir um falso meu? Documentar tudo (capturas de ecrã, ligações), denunciar directamente na plataforma e avisar pessoas do seu círculo. Em casos graves - difamação, burla ou conteúdos sexualizados - procurar aconselhamento jurídico e, se fizer sentido, apresentar queixa.
• Pergunta 5 Ainda faz sentido publicar conteúdos pessoais? Sim, mas com mais consciência. Nem todos os detalhes da vida privada têm de ser públicos. Quem entende os riscos pode continuar a usar redes sociais - apenas com um olhar mais exigente sobre o que deve mesmo ficar online.

---