World Summit AI USA 2025: Gary Marcus critica limites da IA atual e alerta sobre falta de controle

Durante o segundo dia do World Summit AI USA 2025, realizado em São Francisco (EUA), o cientista cognitivo e um dos principais críticos da inteligência artificial, Gary Marcus, fez um alerta direto sobre os riscos que envolvem o avanço das IAs generativas. Em sua participação no painel “Gary Marcus has run out of polite ways to say I told you so”, o especialista expôs uma série de falhas estruturais dos LLMs (Modelos de Linguagem de Grande Escala), defendendo que ainda não temos controle real sobre essas tecnologias e que o debate público sobre seus riscos vem sendo abafado por interesses econômicos.

Marcus rejeitou a ideia de que essas inteligências artificiais realizam um raciocínio genuíno. Como exemplo, citou o clássico jogo Torre de Hanói, em que modelos modernos falharam em tarefas que já eram resolvidas por inteligências simbólicas ainda na década de 1950. Ele também lembrou que sistemas como o GPT-4 continuam cometendo erros básicos em jogos como o xadrez, mesmo após terem sido treinados com milhões de partidas. Esses exemplos foram usados para reforçar que esses modelos não possuem um entendimento real do mundo, apenas repetem padrões com base estatística, sem nenhuma compreensão de fato.

Esse funcionamento limitado é o que explica os episódios conhecidos como “alucinações”, quando a IA inventa informações com grande convicção, como ao afirmar falsamente que uma figura pública morreu, mesmo estando viva e ativa. Segundo Marcus, essas falhas são graves porque passam despercebidas por usuários desavisados, gerando confusão e desinformação em ambientes onde a confiança é fundamental, como no jornalismo, no direito e na educação.

Ele também chamou a atenção para uma tendência preocupante: a possível migração de empresas para modelos baseados em vigilância, com dispositivos que monitoram os usuários 24 horas por dia, elevando os riscos à privacidade e à ética no uso da tecnologia. Diante disso, Marcus defendeu que, no curto prazo, a única forma de mitigar esses riscos é por meio da educação em inteligência artificial, ensinando as pessoas a não confiarem cegamente nesses sistemas. A longo prazo, segundo ele, será necessário reavaliar completamente a abordagem atual, buscando modelos que compreendam o mundo de forma mais profunda do que os métodos puramente estatísticos.

O papel do rádio diante da inteligência artificial

As reflexões apresentadas por Gary Marcus também têm impacto direto no rádio. Em um momento em que as ferramentas de inteligência artificial já são capazes de produzir locuções, spots e até programas completos, o setor precisa assumir uma postura crítica, consciente e educativa diante do uso dessas tecnologias. Mais do que explorar as facilidades oferecidas pela IA, é essencial manter o compromisso com a credibilidade que sempre marcou o rádio como meio de comunicação.

Essa responsabilidade passa por uma curadoria rigorosa de conteúdos gerados com auxílio de IA, garantindo que qualquer informação levada ao ar seja previamente revisada por profissionais qualificados. Também é importante que o rádio atue como um agente formador, explicando ao seu público o que é a inteligência artificial, como ela funciona, quais são seus limites e em que contextos ela deve ser usada com cautela.

Outro ponto fundamental é a transparência. Embora não seja necessário sinalizar todo conteúdo produzido com suporte de IA — como comerciais, por exemplo —, é essencial que o uso dessas ferramentas seja explicitado em materiais jornalísticos, entrevistas ou conteúdos sensíveis. Isso pode ser feito com uma vinheta, uma observação do apresentador ou mesmo uma indicação no início da programação.

Como reforço contínuo, é necessário acompanhar a recepção do público e entender como os ouvintes reagem à presença da IA nos conteúdos. A escuta ativa é essencial para ajustar a linguagem, os formatos e os momentos de transparência. Como costumo destacar em treinamentos e workshops voltados a emissoras de rádio, curadoria é a palavra-chave. A IA vai falhar — e cabe ao profissional de rádio garantir que essas falhas não cheguem ao público, mantendo o alto padrão de responsabilidade editorial que sempre foi marca do rádio brasileiro.

Gary Marcus / Foto: Cristiano Stuani

Relacionadas:
> Deepfakes e IA: alerta no World Summit AI USA sobre manipulação política e o papel do rádio
> World Summit AI USA reúne empresas globais e debate tendências da inteligência artificial; tudoradio.com repercute

World Summit AI USA

O tudoradio.com acompanha a edição 2025 do World Summit AI USA diretamente de São Francisco, na Califórnia, por meio de uma parceria com a Mentoria CS, com o consultor em emissoras de rádio, digital e inteligência artificial, e colunista do portal, Cristiano Stuani, participando do evento de forma presencial. A programação reúne empresas, pesquisadores e líderes de tecnologia de diferentes países para debater o impacto da inteligência artificial em áreas como comunicação, segurança, economia, saúde e educação. A cobertura especial pode ser acompanhada em destaque na editoria de tecnologia do tudoradio.com.