Deepfakes e IA: alerta no World Summit AI USA sobre manipulação política e o papel do rádio

A inteligência artificial já está sendo usada em escala internacional para manipular o debate político, influenciar eleições e contaminar deliberadamente modelos de linguagem com conteúdos enviesados. O alerta foi feito por Nina Jankowicz, pesquisadora e diretora do American Sunlight Project, durante a palestra de abertura do World Summit AI USA 2025, realizada nesta semana em São Francisco (EUA). Em sua exposição, Jankowicz detalhou como governos e grupos de interesse têm recorrido a ferramentas de IA generativa para criar deepfakes — vídeos e áudios falsos com aparência extremamente real — e realizar operações de influência em massa. Diante desse cenário, a especialista também destacou a importância da imprensa como agente de educação digital e curadoria confiável para o público.

Com o tema “AI in the Age of Geopolitical Tensions: Power, Policy & Progress”, a apresentação mapeou casos reais de uso da IA em contextos eleitorais em países como Estados Unidos, Reino Unido, Paquistão e Eslováquia. Nesses exemplos, conteúdos manipulados foram atribuídos a lideranças políticas e disseminados amplamente, inclusive por meio de redes sociais e aplicativos de mensagens. Embora muitas das peças tenham sido posteriormente desmentidas, Jankowicz enfatizou que os efeitos no debate público já estavam consolidados.

Um dos pontos mais críticos foi a revelação sobre a chamada Rede Pravda, uma estrutura composta por mais de 90 sites falsos que publicam cerca de 3,6 milhões de textos por ano. O objetivo não é apenas enganar diretamente os leitores, mas abastecer modelos de linguagem com desinformação, o que pode afetar as respostas de plataformas como o ChatGPT em temas sensíveis, como política, saúde e direitos humanos.

“Hoje, uma única pessoa, com um gerador de imagens e um modelo de linguagem, consegue operar uma campanha de desinformação que antes exigiria dezenas de profissionais”, alertou a pesquisadora. Ela explicou que a sofisticação técnica atual elimina sinais comuns de manipulação, como erros gramaticais ou “sotaques digitais”, dificultando a identificação das fraudes.

Como alternativas para enfrentar esses riscos, Jankowicz defendeu ações como:

-> Investimento em educação digital para que o público reconheça e questione conteúdos manipulados;
-> Ampliação da Content Authenticity Initiative, que aplica marcações em materiais criados por IA;
-> Transparência por parte das empresas de tecnologia sobre limitações e falhas de seus modelos;
-> Empoderamento dos usuários para a checagem ativa de fontes e contextos.

Rádio como aliado no combate à desinformação

Num cenário de desinformação em velocidade algorítmica, o rádio pode — e deve — atuar como instrumento confiável de informação. Para isso, é fundamental preservar sua credibilidade, verificar cuidadosamente suas fontes e evitar pautar-se exclusivamente por conteúdos circulantes na internet. Historicamente, o rádio foi protagonista no jornalismo brasileiro, e precisa reafirmar esse papel.

Entre as contribuições possíveis estão:

-> Quadros educativos sobre desinformação, explicando o funcionamento de deepfakes e seus impactos;
-> Transparência editorial, com aviso claro quando um conteúdo for gerado por IA;
-> Iniciativas de pressão positiva sobre empresas digitais para uso de marcações em conteúdos artificiais;
-> Formação crítica dos ouvintes, estimulando-os a comparar fontes e buscar evidências.

O rádio ainda tem a confiança do público, a proximidade com o ouvinte e a autoridade editorial que o tornam peça-chave na formação de uma sociedade mais preparada para lidar com os desafios da desinformação digital. Desde que assuma, com responsabilidade, sua função formadora.

Nina Jankowicz / crédito: Cristiano Stuani

World Summit AI USA

O tudoradio.com acompanha a edição 2025 do World Summit AI USA diretamente de São Francisco, na Califórnia, por meio de uma parceria com a Mentoria CS, com o consultor em emissoras de rádio, digital e inteligência artificial, e colunista do portal, Cristiano Stuani, participando do evento de forma presencial. A programação reúne empresas, pesquisadores e líderes de tecnologia de diferentes países para debater o impacto da inteligência artificial em áreas como comunicação, segurança, economia, saúde e educação. A cobertura especial pode ser acompanhada em destaque na editoria de tecnologia do tudoradio.com.

+ World Summit AI USA reúne empresas globais e debate tendências da inteligência artificial; tudoradio.com repercute