Risco ou marketing? Entenda o ataque hacker do novo ChatGPT
Modelos de inteligência artificial (IA) da OpenAI – entre eles, o GPT-5.6 Sol e outro que ainda não foi lançado – fugiram da sua grande jaula digital compartilhada. Isso ocorreu durante um teste controlado da empresa, que queria medir justamente as habilidades de cibersegurança das suas novas IAs. Nele, os pesquisadores desligaram propositalmente as “travas de segurança” que as impedem de agir de forma maliciosa.
Ao tentarem resolver o desafio de cibersegurança proposto, os modelos identificaram uma falha técnica inédita (zero-day) para escapar de seu ambiente isolado e ganhar acesso à internet. Uma vez online, as IAs “deduziram” que as respostas do teste estariam nos servidores da plataforma Hugging Face.
Em seguida, as IAs usaram credenciais roubadas e brechas de sistema para tentar capturar os dados. O ataque, que executou mais de 17 mil ações numa velocidade impossível para humanos, só foi totalmente contido quando a Hugging Face mobilizou suas próprias ferramentas de IA para analisar e bloquear a investida em tempo recorde.
Longe de ser mero marketing ou prenúncio de uma “rebelião das máquinas”, o episódio é apontado por especialistas ouvidos pelo Olhar Digital como uma falha de contenção e governança. O caso expõe o risco prático de conceder alta autonomia operacional a agentes de IA em ambientes de testes sem o devido isolamento e controle de privilégios.
O incidente do GPT-5.6
O episódio ocorreu durante um teste interno de avaliação de capacidades cibernéticas, segundo a OpenAI. Para medir o desempenho do novo carro-chefe da empresa em cenários ofensivos e defensivos no benchmark ExploitGym, os pesquisadores reduziram temporariamente as chamadas “recusas cibernéticas” (cyber refusals) do GPT-5.6 Sol e de outro modelo ainda em pré-lançamento. Essa flexibilização das travas de proteção foi o que permitiu que os sistemas operassem com elevada autonomia técnica.
ChatGPT tentou invadir sistema de empresa durante teste, segundo a OpenAI – Imagem: Olhar Digital via ChatGPT
O que se seguiu foi uma execução hiperfocada de um objetivo programado. Ao enfrentar dificuldades para resolver o desafio dentro do ambiente de simulação, os agentes encadearam vulnerabilidades técnicas e identificaram que o gabarito do teste estava hospedado nos servidores da plataforma Hugging Face. Em seguida, os agentes utilizaram brechas para tentar acessar e capturar as respostas diretamente na infraestrutura externa.
Nos relatórios oficiais, OpenAI e Hugging Face classificaram o caso como um incidente cibernético sem precedentes envolvendo modelos de última geração. A Hugging Face chamou a atenção para o “problema da assimetria”: enquanto o agente invasor operava sem filtros de contenção, as ferramentas comerciais de defesa baseadas em IA falharam inicialmente por serem bloqueadas por suas próprias regras de segurança ao tentarem analisar os códigos maliciosos.
A investida só foi contida quando a equipe de cibersegurança da Hugging Face mobilizou ferramentas próprias e modelos de código aberto para analisar e barrar o tráfego em tempo recorde. O caso se soma às discussões recentes sobre o controle de modelos de fronteira (os rígidos protocolos impostos pela Anthropic ao seu modelo Mythos, por exemplo). E demonstra que testar habilidades cibernéticas sem um isolamento efetivo é suficiente para transformar uma simulação num vetor de ataque real.
Marketing ou ameaça real? Especialistas em cibersegurança respondem
Diante da repercussão do caso, uma grande dúvida é se a divulgação do incidente reflete um risco genuíno ou se trata de security theater (estratégias de marketing para superdimensionar a capacidade dos modelos e gerar burburinho). Para os especialistas ouvidos pelo Olhar Digital, embora empresas como OpenAI e Anthropic se beneficiem da narrativa de que suas IAs são “poderosas demais”, o episódio do GPT-5.6 envolveu vulnerabilidades e falhas reais.
Num primeiro momento, a Anthropic achou melhor trancar o Mythos a sete chaves – Imagem: Olhar Digital
“Pode, sim, ter um fatorzinho ali de marketing da OpenAI de publicar isso, de tentar pegar a mesma vibe do Mythos e tudo mais. Só que eu realmente não acredito que seja só marketing porque quem chancelou isso foi o pessoal da Hugging Face”, diz Fabrício Carraro, Program Manager na Alura. Carraro lembra que a Hugging Face já havia divulgado a tentativa de acesso antes de a OpenAI se pronunciar. “O fato de eles terem chancelado [o incidente] faz com que a gente tenda a confiar que realmente houve uma tentativa de ataque”, pontua.
A especialista em cibersegurança e segurança de identidades Nathália Carmo, sócia da IAM Brasil, concorda que houve um evento concreto de segurança. Mas adverte contra o alarmismo. “A expressão ‘IA saiu do controle’ pode gerar uma interpretação antropomórfica que não representa tecnicamente o episódio”, ressalta. Para entender o comportamento do GPT-5.6, é preciso separar a autonomia operacional da ideia de intenção própria.
Segundo Carraro, a atuação do modelo ocorre dentro de um harness (estrutura de ferramentas, conexões e permissões configurada ao redor do algoritmo). “É basicamente toda a estrutura, todos os arreios que estão em volta dele”, explica. Quando recebe um objetivo e dispõe de ferramentas de execução sem travas de contenção adequadas, o agente apenas busca o caminho mais eficiente para cumprir a tarefa, sem que haja “consciência” ou desejo malicioso na invasão.
O desafio das ‘identidades não humanas’
Mais do que discutir o caso isolado do GPT-5.6, os especialistas apontam que o incidente marca uma virada estrutural para a segurança da informação corporativa. “Os agentes de IA representam uma evolução significativa em relação aos modelos tradicionais. Eles deixam de apenas responder perguntas e passam a executar tarefas, utilizar ferramentas, acessar sistemas e tomar decisões dentro dos limites que lhes são concedidos”, analisa Márcio Silva, diretor de Operações da Moov4 e CEO da InfraDB.
Incidente com ChatGPT marca virada para a segurança da informação corporativa, dizem especialistas – Imagem: Visuals6x/Shutterstock
Essa mudança amplia drasticamente a superfície de ataque nas empresas. Na avaliação de Silva, as organizações precisarão passar a tratar sistemas autônomos como usuários do próprio ecossistema de tecnologia. “Organizações que adotarem agentes autônomos precisarão tratá-los como identidades privilegiadas dentro do ambiente de TI, sujeitas aos mesmos controles de segurança aplicados a usuários e aplicações críticas”, pondera.
Para mitigar riscos no ecossistema corporativo, Silva destaca quatro pilares:
Menor privilégio: conceder ao agente apenas acesso aos recursos indispensáveis para sua função;
Isolamento de ambientes (sandbox): impedir que agentes em teste ou execução tenham acesso direto a redes ou sistemas de produção;
Monitoramento e rastreabilidade: manter registros detalhados de todas as ações e comandos executados pela IA;
Intervenção humana (human-in-the-loop): exigir aprovação prévia de um profissional para operações sensíveis ou alterações de infraestrutura.
Para Nathália Carmo, a transparência das big techs e as auditorias independentes antes do lançamento de modelos serão fundamentais para evitar novos incidentes. “O desafio da cibersegurança não será apenas desenvolver modelos mais seguros, mas garantir que identidades não humanas operem com privilégios mínimos, limites claros, monitoramento contínuo e responsabilidade definida. A próxima fronteira da segurança será controlar não apenas quem acessa os sistemas, mas também quais decisões e ações os agentes podem executar em nome das organizações”, conclui a especialista.
O post Risco ou marketing? Entenda o ataque hacker do novo ChatGPT apareceu primeiro em Olhar Digital.
