xAI processa homem acusado de usar Grok para criar imagens ilegais com IA
Tudo sobre Inteligência Artificial
A xAI, startup de inteligência artificial (IA) fundada por Elon Musk e recém-adquirida pela SpaceX, entrou com uma ação judicial contra um homem da Carolina do Sul (EUA), acusado de utilizar o chatbot Grok para produzir imagens de abuso sexual infantil.Continua após a publicidadeSegundo a empresa, o usuário violou os termos de uso da plataforma ao empregar a ferramenta para gerar conteúdo sexualmente explícito envolvendo menores.O processo foi protocolado na terça-feira (14) em um tribunal federal do Texas (EUA). De acordo com a xAI, Terry Harwood, preso em fevereiro deste ano sob acusações de exploração sexual de menores, teria feito uso indevido do sistema de IA.A ação está entre os primeiros casos em que uma empresa do setor de IA processa um usuário por supostamente utilizar uma ferramenta de IA para criar conteúdo sexualmente explícito.Harwood, que permanece detido, não foi localizado para comentar o caso. A xAI também não respondeu imediatamente a um pedido de manifestação encaminhado pela imprensa na quarta-feira (15).xAI enfrenta pressão sobre uso do Grok para criar deepfakes
A ação judicial ocorre em meio ao aumento da pressão internacional sobre a xAI em razão de acusações de que o Grok estaria facilitando a criação de deepfakes sexualizados sem consentimento — imagens ou vídeos altamente realistas produzidos por IA;
No processo, a empresa afirma que adota medidas para combater esse tipo de uso indevido. Entre elas, estão a suspensão e o encerramento de contas envolvidas em atividades ilícitas, além da comunicação de casos suspeitos de material de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês);
Segundo a companhia, somente em 2026 foram suspensas 52.222 contas e encaminhadas 73.604 denúncias ao NCMEC;
De acordo com a xAI, essas comunicações contribuíram para pelo menos 244 prisões.
Grok foi utilizado para criação de imagens ilegais – Imagem: JRdes/ShutterstockLeia mais:Na ação, a xAI afirma que Terry Harwood enviou ao Grok fotografias comuns de adultos e de menores de idade com o objetivo de transformá-las em deepfakes sexualmente explícitos. A empresa também alega que o acusado utilizou a ferramenta para criar imagens sexuais falsas de adultos sem o consentimento das vítimas.Além de pedir uma indenização, cujo valor não foi divulgado, a startup solicita que a Justiça determine a proibição permanente de Harwood de utilizar o Grok. No processo, a empresa sustenta que o comportamento do acusado representou uma tentativa deliberada de utilizar sua tecnologia para atividades criminosas.
“A conduta do réu foi um plano deliberado para transformar a ferramenta da autora em um instrumento para fins criminosos, expondo vítimas reais a danos profundos e duradouros, além de causar riscos jurídicos e prejuízos à reputação da empresa”, afirmou a xAI na ação judicial.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
