Nos últimos anos, diversas empresas de diferentes setores têm se apressado para integrar a inteligência artificial (IA) em suas operações. Inicialmente, o foco estava em tecnologias como chatbots e assistentes generativos, seguidos por ferramentas de análise e automação de processos. Atualmente, estamos em uma nova fase, marcada pelo surgimento de agentes de IA que não apenas respondem a perguntas, mas também tomam decisões e realizam ações dentro dos sistemas organizacionais.

À medida que a autonomia da inteligência artificial cresce, a necessidade de controle sobre suas ações também aumenta. Essa mudança é refletida nas previsões apresentadas pela NTT DATA, que apontam um crescimento acelerado nos investimentos em segurança voltados para a IA até 2029. Áreas como governança, observabilidade e cibersegurança se tornam cada vez mais fundamentais para a expansão dessas tecnologias. A categoria conhecida como AI TRiSM — AI Trust, Risk and Security Management, que abrange a gestão de confiança, riscos e segurança da IA, pode movimentar cerca de US$ 6,2 bilhões até 2029. Os investimentos em observabilidade de IA devem alcançar aproximadamente US$ 3,6 bilhões, triplicando nesse período.

Essa transformação sinaliza uma mudança significativa na abordagem das empresas em relação à inteligência artificial. Enquanto, na fase inicial, a preocupação estava em entender as capacidades da tecnologia, agora a questão central é como permitir que a IA desempenhe suas funções sem comprometer o controle sobre suas ações.

A inquietação em relação a esse controle aumenta com a introdução da IA agêntica. Diferentemente dos chatbots tradicionais, que respondem a perguntas específicas, um agente de IA pode receber um objetivo e executar várias etapas para alcançá-lo. Dependendo das permissões que lhe são concedidas, ele pode acessar bancos de dados, operar sistemas internos, enviar mensagens, criar documentos e até iniciar processos corporativos.

Essa evolução transforma a inteligência artificial em uma ferramenta que integra efetivamente a infraestrutura das empresas. Contudo, o desafio agora consiste em garantir que esses agentes operem de forma segura, previsível, auditável e em conformidade com as diretrizes organizacionais.

Portanto, os aspectos de governança, observabilidade e cibersegurança não devem ser considerados obstáculos à inovação. Na verdade, eles são elementos fundamentais que permitirão o avanço dessa inovação. À medida que as empresas concedem mais poder à inteligência artificial, é crucial que desenvolvam também a capacidade de monitorar, limitar e responsabilizar suas ações.