O avanço da inteligência artificial (IA) nas empresas está redefinindo profundamente o papel do Chief Information Security Officer (CISO). Mais do que proteger sistemas, esses líderes passam a assumir a responsabilidade de garantir a confiabilidade dos resultados gerados por IA, movimento que altera a lógica tradicional da segurança corporativa, segundo análise da Forrester.
À medida que sistemas baseados em IA passam a tomar decisões com impacto direto em receitas, operações e experiência do cliente, a segurança deixa de ser apenas uma camada de proteção e passa a envolver validação, explicabilidade e integridade das decisões automatizadas.
O novo cenário impõe uma mudança estrutural: não basta garantir que sistemas estejam seguros é necessário assegurar que os resultados produzidos por agentes de IA sejam corretos, auditáveis e livres de manipulação.
Isso ocorre porque falhas em IA não tendem a acontecer de forma isolada. Ao contrário, podem escalar rapidamente, afetando múltiplos processos simultaneamente e gerando impactos diretos no negócio.
Nesse contexto, o CISO passa a atuar como um “provedor de confiança”, responsável por estruturar mecanismos que validem decisões automatizadas e sustentem a governança em ambientes cada vez mais autônomos.
Explosão de agentes e perda de controle
Um dos principais desafios apontados é a proliferação de agentes de IA dentro das organizações. Segundo levantamento da Forrester, mais da metade dos líderes envolvidos com IA já identifica esse crescimento desordenado, chamado de “agentic sprawl”, como um problema relevante.
Com múltiplos agentes operando simultaneamente em diferentes áreas, sistemas e até cadeias de fornecedores, os modelos tradicionais de controle e políticas de segurança deixam de ser suficientes.
O desafio passa a ser acompanhar não apenas o funcionamento técnico, mas também a intenção e o impacto das decisões tomadas por esses sistemas.
Regulação e responsabilidade avançam juntas
Outro vetor crítico é a convergência entre regulação e accountability. À medida que agentes autônomos passam a gerar decisões que podem resultar em falhas, perdas financeiras ou incidentes de segurança, cresce a exigência por rastreabilidade e auditoria.
Leia mais: Exército alemão aposta em IA para acelerar decisões em cenários de guerra
As empresas precisarão comprovar que estabeleceram limites claros, mecanismos de controle contínuo e padrões de comportamento para seus sistemas de IA, incluindo aqueles operados por terceiros.
Nesse cenário, a responsabilidade tende a recair diretamente sobre os CISOs, ampliando o escopo do cargo e elevando o nível de risco associado à função.
O que os CISOs precisam fazer agora
Diante desse novo contexto, a recomendação é que os líderes de segurança iniciem imediatamente a adaptação de suas estruturas. Isso inclui entender como o negócio gera valor ponta a ponta, identificar onde a IA impacta esses fluxos e desenhar mecanismos de controle compatíveis com esse novo modelo operacional.
Também será necessário reconfigurar as equipes, com novas competências e funções voltadas à governança de IA, além de investir na capacitação dos profissionais já existentes.
Outro ponto central é a experimentação prática. CISOs que utilizam IA em suas próprias rotinas, seja para automação, análise ou apoio à decisão, desenvolvem uma compreensão mais concreta dos riscos e das oportunidades, o que facilita a construção de modelos de governança mais eficazes.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
