A inteligência artificial generativa (GenAI) é uma realidade também na cibersegurança das empresas, sendo que 29% dos líderes da área relatando ataques contra a infraestrutura de aplicações corporativas de GenAI nos últimos 12 meses. E 32% disseram ter enfrentado um ataque a aplicações que exploram prompts de aplicação.
É o que revela um estudo recente do Gartner realizada entre março e maio de 2025 com 302 líderes de cibersegurança na América do Norte, Europa, Oriente Médio e África (EMEA) e Ásia-Pacífico. Segundo o estudo, 62% das organizações sofreram um ataque com deepfake envolvendo engenharia social ou exploração de processos automatizados.
A consultoria norte-americana diz que os assistentes de chatbot são vulneráveis a uma variedade de técnicas de prompts de atacantes, que buscam manipular LLMs ou modelos multimodais para produzir respostas enviesadas ou maliciosas.
“À medida que a adoção acelera, ataques que utilizam GenAI para phishing, deepfakes e engenharia social se tornaram comuns, enquanto outras ameaças, como ataques à infraestrutura de aplicações e manipulações baseadas em prompts estão surgindo e ganhando força”, diz em comunicado Akif Khan, vice-presidente analista do Gartner.
Embora 67% dos líderes de cibersegurança tenham dito que os riscos emergentes de IA generativa exigem mudanças significativas nas abordagens atuais de segurança cibernética, o Gartner afirma que é necessária uma estratégia mais equilibrada. Ao invés de mudanças radicais ou investimentos isolados, as organizações devem “fortalecer os controles centrais e implementar medidas direcionadas para cada nova categoria de risco”, diz Khan.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
