Agentes de IA devem observar e recomendar antes de agir, aponta palestra no AGNTCon + MCPCon Europe
Amsterdã – Apresentação da Microsoft aborda evidências, validação e limites de autonomia para agentes; conceitos também podem orientar aplicações em rádio e televisão
A adoção de agentes de inteligência artificial em ambientes reais exige mais do que capacidade para responder perguntas ou executar tarefas. Observação, evidências, validação e limites claros de autonomia passam a fazer parte da estrutura necessária para que esses sistemas possam atuar com segurança. Uma das abordagens apresentadas durante o AGNTCon + MCPCon Europe 2026 propõe uma evolução gradual, na qual o agente primeiro observa, depois recomenda e somente passa a agir quando existem informações, controle e autorização suficientes. O conceito também ajuda a projetar aplicações mais seguras da tecnologia em operações de rádio e televisão. A cobertura especial do AGNTCon + MCPCon Europe tem o apoio da beAudio e do tudoradio.com, realizada pela Mentoria Cristiano Stuani.
O tema foi abordado na palestra From ‘Works on My Prompt’ To Production SLOs: Building Agent Observability, apresentada por Manik Khandelwal, da Microsoft. Um dos pontos centrais da apresentação foi a necessidade de compreender não apenas o resultado produzido por um agente, mas também quais informações estavam disponíveis para que ele chegasse àquela conclusão.
Um dos slides resumiu essa questão com a pergunta “Did the agent see enough to be right?” ("O agente viu o suficiente para estar certo?", em tradução livre). A proposta é que um agente confiável não deve apenas responder ou executar uma ação, mas permitir que seja verificado se teve acesso às evidências necessárias para chegar ao resultado.
Primeiro observar, depois recomendar
Durante a apresentação, Khandelwal destacou que o caminho para níveis maiores de autonomia deve começar pela coleta de fatos, métricas e evidências. Essa evolução foi apresentada em três estágios: V1 – Observe (observar), V2 – Recommend (recomendar) e, futuramente, Act (agir), acompanhados por mecanismos de permissão, aprovação e recuperação.
A lógica foi sintetizada pelo palestrante na frase “Observe first. Earn the right to recommend” ("Observe primeiro. Conquiste o direito de recomendar", em tradução livre). Na prática, antes de ganhar autonomia para propor uma decisão, o agente precisa demonstrar que consegue observar corretamente o ambiente e compreender o contexto no qual está atuando.
Essa abordagem também estabelece uma progressão para a adoção da tecnologia. Em vez de conectar um agente a um sistema e imediatamente permitir que execute alterações, uma empresa pode inicialmente utilizá-lo apenas para observar. Com os resultados validados, o sistema passa a recomendar ações e, posteriormente, determinadas tarefas podem receber autorização para execução automática.
Evidência antes da decisão
Outro ponto abordado foi a forma como as decisões dos agentes devem ser avaliadas. Khandelwal utilizou outra provocação durante a apresentação: “Do not buy a judge for every run” ("Não compre um juiz para cada execução", em tradução livre).
A ideia é que nem toda tarefa realizada por um agente precisa passar por uma segunda camada complexa de avaliação. Situações rotineiras podem utilizar verificações mais simples, enquanto casos com sinais incomuns, evidências conflitantes ou maior potencial de impacto podem ser encaminhados para análises adicionais.
O palestrante também ressaltou que adicionar um segundo modelo para avaliar uma resposta não resolve necessariamente um problema ocorrido na origem. Se o primeiro agente não teve acesso às informações necessárias para compreender determinada situação, uma nova avaliação baseada nas mesmas evidências insuficientes não elimina essa limitação.
Testar erros e também os acertos
A apresentação chamou atenção ainda para a forma como os agentes são testados. Quando uma falha é identificada, uma prática comum é registrar aquele erro e criar mecanismos para impedir que ele volte a ocorrer. Khandelwal destacou, porém, que também é necessário testar situações nas quais o comportamento do agente estava correto.
Na prática, significa validar tanto os chamados sinais vermelhos quanto os sinais verdes. Esse equilíbrio evita que sucessivas correções tornem o agente excessivamente restritivo ou façam com que situações normais passem a ser interpretadas como problemas.
Outro slide reforçou o conceito com a frase “Show the improvement. Then earn it in production” ("Mostre a melhoria. Depois, comprove-a em produção", em tradução livre). Ou seja, não basta uma nova configuração apresentar resultados melhores durante testes isolados. É necessário acompanhar métricas e verificar se o ganho de qualidade permanece quando o agente passa a atuar em uma operação real.
Aplicações em rádio e televisão
Embora a apresentação não tenha sido direcionada ao mercado de mídia, a progressão entre observar, recomendar e agir pode ser aplicada diretamente ao planejamento de agentes em empresas de comunicação. Autonomia não precisa ser o primeiro objetivo de uma emissora ao incorporar inteligência artificial à sua operação. Em muitos casos, o primeiro ganho pode estar justamente na capacidade de observar melhor, organizar informações, identificar problemas e apresentar recomendações aos profissionais.
Na área técnica, por exemplo, um agente conectado aos sistemas de transmissão, streaming, automação ou servidores poderia inicialmente apenas identificar anomalias, consultar históricos, relacionar diferentes informações e apresentar uma recomendação ao profissional responsável. Somente depois de um período de validação determinadas ações poderiam ser autorizadas para execução automática.
O mesmo princípio pode ser aplicado à programação, ao comercial, ao conteúdo digital e ao jornalismo. Antes de permitir que um agente altere uma programação musical, publique determinado conteúdo ou interfira em um processo operacional, a emissora precisa conseguir identificar o que o sistema observou, quais informações utilizou e por que chegou a determinada recomendação.
Da automação para sistemas com maior autonomia
Rádio e televisão utilizam sistemas de automação há décadas, normalmente baseados em regras e ações previamente configuradas. Os agentes acrescentam uma camada diferente a esse processo: podem analisar contexto, consultar diferentes fontes de informação, avaliar alternativas e escolher o próximo passo dentro dos limites estabelecidos pela organização.
É justamente essa capacidade que amplia a importância de conceitos como observabilidade, governança, rastreabilidade e segurança operacional. Quanto maior a autonomia concedida ao agente, maior tende a ser a necessidade de compreender as informações utilizadas por ele, registrar suas ações e estabelecer situações nas quais o sistema deve interromper o processo e solicitar uma decisão humana.
Para emissoras de rádio e televisão, a adoção de agentes pode seguir essa mesma progressão. Mais do que simplesmente inserir inteligência artificial na operação, o desafio passa a ser construir uma estrutura na qual cada agente tenha limites claros, suas decisões possam ser verificadas e a participação humana seja mantida nos pontos em que o risco ou a responsabilidade exigirem.
O AGNTCon + MCPCon Europe 2026 é realizado nos dias 17 e 18 de setembro, em Amsterdã, reunindo profissionais e empresas envolvidos no desenvolvimento de agentes de inteligência artificial, interoperabilidade e tecnologias relacionadas ao Model Context Protocol (MCP).