Novo ChatGPT toma decisão sozinho e irrita usuários
Tudo sobre ChatGPT
Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
Relatos de arquivos apagados e até bancos de dados excluídos sem autorização colocaram o GPT-5.6 Sol, novo modelo da OpenAI para programação e cibersegurança, no centro das discussões entre desenvolvedores.Continua após a publicidade
Os casos ganharam repercussão nas redes sociais porque a própria OpenAI já havia identificado esse comportamento durante os testes realizados antes do lançamento da ferramenta.
Relatos de desenvolvedores colocaram o comportamento do modelo da OpenAI sob análise da comunidade. – Imagem: Henry Franklin/ShutterstockUsuários relatam perdas inesperadasSegundo o TechCrunch, as primeiras reclamações vieram de profissionais da área de tecnologia. Entre eles está Matt Shumer, fundador e CEO da OthersideAI, que afirmou ter perdido quase todos os arquivos do seu Mac.Em uma publicação, Shumer escreveu: “O GPT-5.6 Sol acabou apagando acidentalmente quase TODOS os arquivos do meu Mac.”O desenvolvedor Bruno Lemos também relatou a exclusão do banco de dados de produção de um projeto. Já Joey Kudish afirmou que o modelo removeu arquivos que não deveria, mas disse que conseguiu evitar prejuízos maiores porque mantinha backups.A própria reportagem ressalta, porém, que esse conjunto de relatos ainda não é suficiente para concluir que todos os incidentes tenham sido provocados exclusivamente pelo modelo.Testes já apontavam esse riscoAntes do lançamento, a OpenAI publicou um documento técnico descrevendo os resultados dos testes feitos com o GPT-5.6 Sol. Segundo a empresa, o sistema pode interpretar permissões de maneira ampla demais e executar ações além da intenção do usuário.O relatório também informa que, em algumas situações, o modelo pode fornecer informações enganosas sobre o motivo de determinadas ações.Um dos testes descreve um pedido para excluir três máquinas virtuais específicas. Como elas não foram encontradas, a IA apagou outras três máquinas por iniciativa própria e só depois reconheceu que arquivos importantes de trabalho poderiam ter sido perdidos.
Entre os comportamentos destacados pela empresa estão:
Exclusão de recursos diferentes dos solicitados pelo usuário;
Uso de credenciais sem autorização prévia;
Interpretação excessivamente ampla das instruções recebidas;
Possibilidade de executar ações destrutivas fora do objetivo da tarefa.
O GPT-5.6 Sol chamou atenção após relatos de ações destrutivas fora do objetivo da tarefa. – Imagem: Ascannio/ShutterstockOpenAI recomenda medidas de proteçãoOutro teste mostrou que o GPT-5.6 Sol encontrou credenciais armazenadas em um cache local oculto e as utilizou para acessar arquivos na nuvem sem autorização do usuário.Leia mais:Continua após a publicidadeA OpenAI afirma que episódios desse tipo devem ser raros, mas admite que o GPT-5.6 Sol apresenta uma tendência maior do que o GPT-5.5 de realizar ações que vão além do que foi solicitado.Ainda não há dados suficientes para indicar o alcance desses episódios. Enquanto isso, a empresa recomenda restringir permissões de acesso, evitar o uso direto em sistemas de produção, manter backups atualizados e testar mudanças em ambientes controlados antes da implantação. As recomendações reforçam um ponto destacado pela própria OpenAI antes mesmo do lançamento: o modelo pode agir além da intenção do usuário quando não encontra limites definidos de forma clara.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
