O regulador de comunicações do Reino Unido abriu uma investigação formal contra a plataforma X, de propriedade de Elon Musk, para apurar se o uso do chatbot de inteligência artificial (IA) Grok, desenvolvido pela xAI, resultou na criação e disseminação de imagens sexualizadas potencialmente ilegais. A apuração é conduzida pela Ofcom, responsável por fiscalizar mídia e plataformas digitais no país.
Segundo o órgão, há relatos considerados graves de que o recurso de geração de imagens do Grok teria sido utilizado para produzir e compartilhar representações íntimas não consensuais, além de imagens sexualizadas envolvendo menores de idade.
No Reino Unido, tanto a criação quanto a circulação desse tipo de material, inclusive quando gerado por inteligência artificial, configuram crime. A legislação também impõe às plataformas o dever de reduzir o risco de exposição de usuários a conteúdos ilegais e de removê-los rapidamente quando identificados.
Leia mais: Uso de IA por atacantes deve intensificar ameaças cibernéticas em 2026
A investigação ocorre em um contexto de crescente pressão política e pública. O primeiro-ministro britânico Keir Starmer declarou recentemente que os materiais associados ao Grok seriam inaceitáveis e contrários à lei, cobrando uma reação mais firme da empresa. O governo afirmou apoiar integralmente a atuação do regulador para responsabilizar plataformas que não cumpram suas obrigações de proteção, especialmente quando há risco a crianças.
França também denuncia imagens do Grok
Além do Reino Unido, a funcionalidade do Grok já motivou reações em outros países. Autoridades na França encaminharam denúncias a promotores e reguladores, classificando o conteúdo como claramente ilegal, enquanto órgãos na Índia solicitaram esclarecimentos formais à empresa. Em meio às críticas, o X anunciou restrições ao uso do recurso de geração de imagens, limitando-o a assinantes pagos.
A empresa afirma que remove conteúdos ilegais assim que são detectados e que aplica punições permanentes a contas envolvidas na criação ou no compartilhamento desse tipo de material. Também declarou que usuários que utilizarem prompts para gerar conteúdo ilícito estão sujeitos às mesmas sanções aplicadas a quem faz upload direto de material proibido. Questionada sobre o tema, a xAI respondeu à Reuters com uma declaração curta, sem detalhar medidas técnicas ou de governança adicionais.
Segundo informações da Reuters, o escopo da apuração da Ofcom inclui avaliar se o X realizou uma análise adequada dos riscos antes de disponibilizar o recurso, se adotou salvaguardas suficientes para impedir que usuários no Reino Unido fossem expostos a material ilegal e se considerou de forma específica os impactos sobre crianças e adolescentes. O regulador também examinará os processos de resposta da plataforma diante de denúncias e a efetividade das ações de remoção.
De acordo com as regras em vigor, casos considerados graves de descumprimento podem resultar em medidas severas. Entre elas, a possibilidade de acionar a Justiça para exigir que provedores de pagamento ou anunciantes suspendam serviços à plataforma, além de solicitar que operadoras de internet bloqueiem o acesso ao site no território britânico.
A investigação se soma a um debate mais amplo sobre os limites do uso de inteligência artificial generativa em plataformas abertas, especialmente quando ferramentas capazes de criar imagens realistas são disponibilizadas a grandes audiências.
Reguladores europeus têm reforçado a interpretação de que a responsabilidade pelo controle de riscos não se limita ao conteúdo publicado por usuários, mas inclui também os próprios sistemas automatizados oferecidos pelas empresas de tecnologia. Até o momento, o X não respondeu diretamente aos pedidos de comentário sobre a investigação específica conduzida pela Ofcom.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
