UE investe em IA para ajudar jornalistas a travar a desinformação

Num contexto em que as falsificações e as notícias falsas se multiplicam, investigadores com financiamento da UE estão a desenvolver ferramentas capazes de ajudar jornalistas a separar o que é verdadeiro do que é fabricado.

No inverno passado, quando os mercados de Natal começaram a abrir um pouco por toda a Europa, as redes sociais encheram-se de vídeos inquietantes. Segundo várias publicações, esses mercados estariam a ser “invadidos” por islamistas radicais.

Um dos vídeos parecia mostrar “perturbações” na inauguração do mercado de Natal de Bruxelas. Noutro caso, circulava uma imagem de um mercado aparentemente cercado por um grande dispositivo de segurança. A ideia transmitida era inequívoca: as tradições cristãs estariam, alegadamente, sob ataque.

Só que os factos não correspondiam ao enredo. As imagens em vídeo vinham, na realidade, de manifestações pacíficas e a fotografia tinha sido criada com recurso a IA. Aquilo que parecia credível à primeira vista era, afinal, enganador - ou pura e simplesmente falso.

Este é o retrato atual do ecossistema informativo. Num inquérito recente da Comissão Europeia, quase dois terços dos participantes disseram ter encontrado desinformação ou notícias falsas na semana anterior. E, como as ferramentas de IA já conseguem produzir texto, imagem e vídeo com um realismo impressionante, distinguir realidade de manipulação tornou-se mais difícil do que nunca.

Perante este cenário, uma equipa multinacional de investigadores e profissionais dos meios de comunicação social, apoiada por financiamento europeu, decidiu responder usando as mesmas armas tecnológicas.

Uma primeira linha de defesa

Em 2020, especialistas de universidades, redações e empresas tecnológicas juntaram-se num projeto de quatro anos financiado pela UE, o AI4Media. A missão era desenvolver ferramentas de IA que permitissem a jornalistas e verificadores de factos confirmar conteúdos digitais com rapidez e confiança.

"É urgente desenvolver técnicas de IA para o setor dos meios de comunicação social", diz Yiannis Kompatsiaris, diretor de investigação do Centro de Investigação e Tecnologia Hellas (CERTH), que coordenou a iniciativa.

A IA diminuiu de forma drástica o esforço necessário para criar falsificações convincentes. Atualmente, qualquer pessoa com acesso a IA generativa pode forjar imagens, clonar vozes ou redigir textos noticiosos verosímeis - e as plataformas de redes sociais encarregam-se de os fazer chegar depressa a grandes audiências.

"Quando uma história falsa é apoiada por imagens realistas, torna-se muito mais fácil acreditar - e mais tentador partilhar, porque o conteúdo aumenta o número de visualizações", acrescenta Kompatsiaris.

Para responder a este problema, a equipa do AI4Media desenhou ferramentas de verificação que se encaixam diretamente no trabalho quotidiano das redações. Meios de comunicação social como a Deutsche Welle, na Alemanha, e a VRT, na Bélgica, colocaram essas soluções à prova em contextos reais.

"Os verificadores de factos e os jornalistas deparam-se com imagens suspeitas todos os dias", afirma Akis Papadopoulos, investigador do CERTH envolvido no projeto. Papadopoulos caracteriza a tecnologia como uma "primeira linha de defesa": uma forma rápida de sinalizar material com indícios de manipulação, sem nunca substituir o juízo humano.

"É importante dotar os jornalistas de toda a Europa - e a nível mundial - de ferramentas que os ajudem a identificar rapidamente material suspeito", diz.

Segundo o Observatório Europeu dos Meios de Comunicação Digitais - uma plataforma independente financiada pela UE que acompanha campanhas de desinformação em todos os Estados-Membros -, a desinformação produzida com recurso a IA tem aumentado de forma consistente nos últimos meses.

E o risco não se limita a casos isolados. Operações coordenadas podem condicionar eleições, enviesar o debate público e corroer a confiança dos cidadãos nas instituições.

Detetar padrões de desinformação

Encontrar conteúdos manipulados é apenas uma parte do problema. Tão importante quanto isso é perceber como a desinformação se espalha: quem a impulsiona, de que forma as narrativas se transformam e se existem sinais de coordenação por trás de uma campanha.

"Estamos num ciclo contínuo de tentativas de compreender e recuperar o atraso em relação à tecnologia mais recente", afirma Riccardo Gallotti, chefe da Unidade Comportamento Complexo da Fondazione Bruno Kessler (FBK).

Com sede em Trento, Itália, a FBK é um centro de investigação reconhecido pelo trabalho em inovação digital, IA e análise de sistemas sociais complexos. Num projeto europeu paralelo ao AI4Media - o AI4Trust, também financiado pela UE -, a FBK colaborou com universidades e organizações mediáticas de vários países para estudar a dinâmica alargada da desinformação online.

Entre os parceiros encontram-se a Euractiv, na Bélgica, a Sky Italia e serviços de verificação de factos como a Maldita.es, em Espanha, a Ellenika Hoaxes, na Grécia, e a Demagog, na Polónia.

Enquanto o AI4Media colocou a tónica na deteção de conteúdos manipulados e na integração de ferramentas de verificação no trabalho das redações, o AI4Trust avançou com um sistema híbrido homem-máquina orientado para monitorizar e analisar desinformação à escala.

A plataforma acompanha múltiplas redes sociais e sítios noticiosos em tempo quase real, recorrendo a algoritmos avançados de IA para tratar conteúdos multilingues e multimodais - texto, áudio e imagem.

Como o volume de publicações na Internet ultrapassa largamente aquilo que é possível analisar manualmente, o sistema seleciona e assinala posts com elevada probabilidade de serem falsos. Depois, verificadores de factos profissionais avaliam esse material e as suas conclusões confirmadas regressam ao sistema, contribuindo para melhorar o desempenho.

Os dois projetos funcionam como peças que se completam: um incide na identificação de manipulações; o outro observa os mecanismos de propagação. Em conjunto, proporcionam a perspetiva micro e macro necessária para entender e contrariar a desinformação impulsionada por IA.

Uma corrida ao armamento

À primeira vista, recorrer a IA para detetar conteúdos gerados por IA pode soar a contradição, mas a questão é tudo menos ligeira.

"É cómico, de facto, mas é como uma corrida ao armamento", afirma Kompatsiaris.

Os modelos de IA generativa têm evoluído a uma velocidade fora do comum. Quando o AI4Media arrancou, ferramentas como o ChatGPT ainda estavam numa fase inicial. Desde então, o nível de qualidade e de realismo do conteúdo gerado por IA cresceu de forma acentuada.

"Entrámos numa nova era em que é difícil para a mente humana acompanhar a aceleração", diz Papadopoulos. "Para acompanhar a evolução da IA, é necessário utilizar a IA."

À medida que os modelos generativos ficam mais potentes, os sistemas de deteção são forçados a ajustar-se continuamente - um dos maiores obstáculos encontrados pelos investigadores.

"A tecnologia progrediu a um ritmo tão rápido que até nós, enquanto investigadores, temos dificuldade em manter-nos a par", explica Papadopoulos. "Tivemos de atualizar continuamente os nossos modelos para detetar imagens recém-geradas."

Para responder, a equipa automatizou etapas do processo de verificação e reentrenou os sistemas com regularidade. Ainda assim, permanecer na linha da frente implica investimento constante - tanto na investigação como nos meios de comunicação social que dependem destas tecnologias.

O futuro da IA

Mesmo com ferramentas mais sofisticadas, a tecnologia, por si só, não resolve o problema.

"Precisamos de ferramentas, mas também de políticas e regras", diz Kompatsiaris.

O Regulamento dos Serviços Digitais da UE obriga as plataformas online de muito grande dimensão a avaliarem e mitigarem riscos sistémicos - incluindo a disseminação de desinformação - e a reforçarem a transparência sobre o funcionamento dos seus sistemas. Em paralelo, o Regulamento da Inteligência Artificial estabelece obrigações de transparência para certos sistemas de IA generativa, incluindo requisitos para identificar conteúdo gerado por IA.

Entretanto, um projeto de código de conduta sobre transparência em conteúdos gerados por IA pretende fomentar normas mais claras quanto à divulgação e à utilização de marcas de água.

Outra linha de ação passa por proteger o jornalismo independente. O Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social define salvaguardas para garantir que conteúdos mediáticos profissionais sejam reconhecidos e protegidos nas principais plataformas online.

As grandes plataformas ficam obrigadas a avisar previamente os meios de comunicação social reconhecidos antes de removerem conteúdos jornalísticos e a justificarem essa decisão, dando às organizações tempo para responder. A intenção é reduzir o risco de conteúdos legítimos serem eliminados sem fundamento.

No seu conjunto, estas respostas criam uma proteção mais ampla: a tecnologia ajuda a detetar manipulações, a regulamentação reforça transparência e responsabilização e as salvaguardas defendem o jornalismo responsável.

A literacia e a sensibilização do público continuam a ser determinantes.

"Não existe uma solução única", afirma Kompatsiaris. "Para sermos mais eficazes no combate à desinformação, precisamos de uma combinação de ferramentas de IA, transparência, regulamentação e sensibilização."

• Este artigo foi inicialmente publicado na Horizon, a revista de investigação e inovação da UE.