Agentes guardiões irão garantir que os processos de Inteligência Artificial permaneçam confiáveis e seguros à medida que a superfície de riscos da IA se expande 

Até 2030, as tecnologias de agentes guardiões representarão pelo menos de 10 a 15% do mercado de IA agêntica, de acordo com o Gartner, Inc. 

Os agentes guardiões são tecnologias baseadas em Inteligência Artificial (IA) projetadas para oferecer suporte a interações confiáveis e seguras com IA. Eles funcionam tanto como assistentes de Inteligência Artificial, apoiando os usuários em tarefas como revisão, monitoramento e análise de conteúdo, quanto como agentes evolutivos semiautônomos ou totalmente autônomos, capazes de formular e executar planos de ação, bem como redirecionar ou bloquear iniciativas para alinhá-las aos objetivos predefinidos do agente. 

Barreiras de proteção são necessárias à medida que o uso da IA agêntica continua a crescer 

De acordo com uma pesquisa realizada em 19 de maio de 2025, durante um webinar do Gartner, com 147 Chief Information Officers (CIOs) e líderes em funções de TI, 24% dos entrevistados já haviam implementado alguns agentes de IA (menos de uma dúzia) e outros 4% haviam integrado mais de uma dúzia.  

A mesma pergunta da pesquisa constatou que 50% dos entrevistados afirmaram estar pesquisando e experimentando a tecnologia, enquanto outros 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o final de 2026, no máximo. São necessários controles automatizados de confiança, risco e segurança para manter esses agentes alinhados e seguros, acelerando a necessidade e o surgimento dos agentes guardiões. 

“A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas”, diz Avivah Litan, Vice-Presidente Analista Distinta do Gartner. “Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em Inteligência Artificial para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos.” 

Os riscos crescem à medida que o poder dos agentes aumenta e se espalha 

Cinquenta e dois por cento dos 125 entrevistados da mesma pesquisa feita durante o webinar identificaram que seus agentes de IA estão ou estarão focados principalmente em casos de uso relacionados a funções administrativas internas, como TI, RH e contabilidade, enquanto 23% estão focados em funções externas voltadas para o cliente. 

Como os casos de uso de agentes de IA continuam a crescer, há várias categorias de ameaças que os afetam, incluindo manipulação de entradas e envenenamento de dados, em que os agentes dependem de dados manipulados ou mal interpretados. Os exemplos incluem: 

– Sequestro e abuso de credenciais que levam a controle não autorizado e roubo de dados. 

– Agentes que interagem com sites e fontes falsos ou criminosos que podem resultar em ações envenenadas.  

– Desvio do agente e comportamento não intencional devido a falhas internas ou gatilhos externos que podem causar danos à reputação e interrupção operacional. 

“A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional”, diz Litan. “À medida que as empresas avançam em direção a sistemas complexos de vários agentes que se comunicam em uma velocidade vertiginosa, os humanos não conseguem acompanhar o potencial de erros e atividades maliciosas. Esse cenário de ameaças crescentes ressalta a necessidade urgente de agentes guardiões, que fornecem supervisão, controle e segurança automatizados para aplicações e agentes de IA.” 

Os CIOs e os líderes de segurança e IA devem se concentrar em três tipos principais de uso de agentes guardiões para contribuir com a segurança e a proteção das interações de Inteligência Artificial: 

– Revisores: Identificar e revisar os resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável. 

– Monitores: Observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em Inteligência Artificial. 

– Protetores: Ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações. 

Os agentes guardiões irão gerenciar interações e anomalias, independentemente do tipo de uso. Esse é um pilar fundamental de sua integração, já que o Gartner prevê que 70% dos aplicativos de IA usarão sistemas multiagentes até 2028. 

O post Gartner prevê que agentes guardiões conquistarão de 10 a 15% do mercado de IA agêntica até 2030  apareceu primeiro em DefesaNet.