Tendências | Ética e viés em ferramentas de inteligência artificial estão em debate nos EUA

O presidente da SMPTE (Sociedade dos Engenheiros de Cinema e Televisão dos Estados Unidos), Renard T. Jenkins, destacou preocupações sobre o viés no desenvolvimento de ferramentas de IA, afirmando que a diversidade entre os tomadores de decisão é um meio prático para preveni-lo. Durante uma recente sessão focada em ética e regulamentação na IA, Jenkins enfatizou que "devemos lutar contra o viés em tudo que construímos e a melhor maneira de fazer isso é através da inovação inclusiva". Essas falas foram destaque na comunicação feita pela NAB (National Association of Broadcasters) à sua comunidade, reforçando a necessidade de debate sobre a IA, algo que a associação também explicitou na abertura do NAB Show 2024, em abril passado.

A conversa contou com representantes da Força-Tarefa Conjunta de IA e Vídeo da SMPTE, que compartilharam suas perspectivas sobre a questão. Jenkins ressaltou que a indústria de mídia é consumidora dessa tecnologia e, por isso, tem uma grande responsabilidade, já que pode impactar milhões com um único programa ou conteúdo.

Yves Bergquist, diretor de IA e Neurociência na Mídia do ETC e CEO da Corto AI, destacou que o viés não é inerentemente ruim, pois certas formas de viés estão presentes para nossa proteção. Ele explicou que a prática de IA ética é idêntica à prática de uma IA metodologicamente sólida, enfatizando a importância de entender o impacto dos modelos em organizações e na sociedade.

Frederick Walls, fellow da AMD, concordou, acrescentando que transparência e explicabilidade são essenciais para garantir que os modelos façam o que se espera deles. A transparência é crítica, e existem ferramentas para abordá-la, como o “Machine Learning Confiável” de Kush R. Varshney, da IBM, e os “cartões de modelo” propostos por pesquisadores do Google.

Jenkins destacou que, embora o viés possa ser introduzido nos modelos para protegê-los, é crucial identificar e eliminar os vieses ruins que podem surgir do medo e da incompreensão. Ele defende um sistema de “bom viés” que não seja xenofóbico, misógino, racista ou homofóbico.

Além da inovação inclusiva, Jenkins destacou a importância de "origem ética, limpeza e monitoramento de dados" para remover o viés. Ele também ressaltou que a pressão para monetizar produtos de IA pode comprometer a ética no desenvolvimento desses modelos, mesmo com novas regulamentações na Europa e nos EUA.

Jenkins concluiu afirmando que é crucial educar todos na mídia e nos negócios sobre os riscos e recompensas da IA, destacando que proteger os usuários é fundamental para garantir o sucesso a longo prazo. Ele afirmou: “Você precisa proteger as pessoas e, verdadeiramente, não deve criar nada que vá causar danos.”

E por qual razão olhar para lá fora?

O tudoradio.com costuma observar esses pontos de curiosidade dos números do rádio internacional para mapear possíveis mudanças de hábitos e a manutenção do consumo de rádio em diferentes países. Assim como ocorreu no ano anterior, periodicamente a redação do portal irá monitorar o desempenho do rádio nos principais mercados do mundo e, é claro, fazendo sempre uma comparação com a situação brasileira. E, como de costume, repercutindo também qualquer número confiável sobre o consumo de rádio no Brasil.

Recomendamos:
> Veja aqui mais notícias sobre o atual momento do rádio em diferentes países
> Confira também as principais tendências para o setor de rádio e tecnologia 

Com informações do The Angle, do NAB Amplify