Hackers que invadiram a OpenAI alertam para problema de segurança na indústria de inteligência artificial

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

Pesquisadores de cibersegurança que invadiram os sistemas da OpenAI recentemente afirmam que a indústria de inteligência artificial (IA) ainda não está preparada para os riscos de segurança criados pelo avanço e pelo crescente poder da própria tecnologia.Continua após a publicidadePesquisadores da Hacktron, startup de segurança de computadores, conseguiram entrar nos sistemas da empresa responsável pelo ChatGPT com a ajuda do Claude, chatbot desenvolvido pela Anthropic, principal concorrente da OpenAI.Segundo publicações da Hacktron no X, os pesquisadores começaram atacando um painel de mensagens público e, a partir dele, conseguiram acessar sistemas privados da OpenAI, incluindo parte do código interno da empresa.A OpenAI corrigiu o problema e pagou US$ 6,5 mil (R$ 33,4 mil) aos pesquisadores pela descoberta e comunicação da vulnerabilidade.O episódio, porém, somado a outros incidentes nos quais modelos de IA acessaram a internet sem serem detectados e atacaram outras empresas, aumentou as críticas de especialistas em cibersegurança. Para eles, os esforços das empresas de IA para proteger seus sistemas não acompanham o enorme poder que elas atribuem à própria tecnologia.Mohan Pedhapati, um dos pesquisadores da Hacktron que invadiram a OpenAI, afirmou que o uso de softwares empresariais convencionais, como Slack, navegadores de internet voltados ao consumidor e outros aplicativos acessíveis pela internet pública, deixa a companhia vulnerável a possíveis ataques.“Se as pessoas que constroem esses sistemas realmente acreditam que eles são poderosos o suficiente para criar riscos de nível nuclear, e estão falando em desacelerar por causa desses riscos, por que esse trabalho… é feito por meio de produtos SaaS comuns?”, questionou Pedhapati em uma publicação no X.“Um tiro de advertência”O CEO da OpenAI, Sam Altman, recentemente se juntou a outros líderes do setor que defendem desacelerar o ritmo de desenvolvimento da IA, diante da preocupação de que as capacidades da tecnologia estejam avançando mais rápido do que a capacidade da indústria de controlá-la.

Em comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores por entrarem em contato e compartilharem suas descobertas. A empresa afirmou ainda que reforçou suas medidas de segurança.Para Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security da Auburn University, o fato de uma pequena equipe de pesquisadores ter conseguido realizar o ataque — segundo eles, por um custo de US$ 3 mil (R$ 15,4 mil) para utilizar os sistemas da Anthropic — deveria ser encarado como um “tiro de advertência”.“Se três pesquisadores responsáveis, equipados com ferramentas comerciais de IA, conseguiram alcançar esse nível de acesso em questão de dias, temos que presumir que serviços de inteligência estrangeiros com muitos recursos estão perseguindo os mesmos alvos continuamente e certamente nunca avisando o alvo sobre o que fizeram e como fizeram”, afirmou Cilluffo.Continua após a publicidadeEspecialistas em segurança nacional há anos alertam que empresas estadunidenses de IA devem esperar ser alvos de hackers apoiados por governos estrangeiros interessados em reduzir a vantagem dos Estados Unidos na tecnologia.Os pedidos para desacelerar o desenvolvimento da IA também levaram parlamentares dos dois principais partidos estadunidenses a defenderem maior supervisão governamental sobre o setor.O presidente Donald Trump, por sua vez, rejeitou firmemente essas propostas e afirmou que a indústria precisa avançar rapidamente para permanecer à frente da China.Claude foi usado no ataque à OpenAI
A invasão da OpenAI pela Hacktron, realizada com o auxílio dos recursos de segurança do Claude, ocorreu depois de meses de debate na indústria de tecnologia e no governo Trump sobre como lidar com a crescente capacidade dos modelos de IA de identificar falhas de segurança em softwares;

OpenAI e Anthropic limitaram o acesso às capacidades completas de cibersegurança de seus chatbots. Ao mesmo tempo, empresas chinesas lançaram modelos gratuitos de IA com recursos avançados de invasão disponíveis para qualquer pessoa;

Em julho, a OpenAI afirmou que alguns de seus próprios agentes de IA haviam escapado dos sistemas da empresa durante testes internos. Os agentes acessaram a internet pública e invadiram outra empresa de IA;

O episódio provocou críticas de especialistas em cibersegurança, que disseram que a OpenAI poderia ter feito mais para impedir que seus sistemas de IA escapassem da rede;

A empresa contratou pesquisadores externos de IA para investigar por que os agentes conseguiram escapar. A investigação, porém, não incluiu uma análise independente tradicional de cibersegurança após o incidente.
Continua após a publicidade
Invasão da OpenAI pela Hacktron ocorreu depois de meses de debate na indústria de tecnologia e no governo Trump sobre como lidar com a crescente capacidade dos modelos de IA de identificar falhas de segurança em softwares – Imagem: Samuel Boivin/ShutterstockO ataque da Hacktron aconteceu aproximadamente no mesmo período do episódio envolvendo os agentes de IA.Pouco depois, a OpenAI redirecionou uma parcela significativa de seus recursos de engenharia para reforçar a segurança. Greg Brockman, presidente da empresa, afirmou em entrevista a um podcast da empresa de investimentos Andreessen Horowitz que 25% dos engenheiros de produção foram transferidos temporariamente para essa tarefa.“Pegamos 25% dos nossos engenheiros de produção e dissemos: ‘Desculpem, todos os seus projetos estão suspensos. Agora vocês estão na defesa’”, contou Brockman. “Encontramos vários problemas graves e os corrigimos”, acrescentou.Continua após a publicidadeLeia mais:Pesquisadores criticam reação da OpenAIOs pesquisadores da Hacktron também criticaram a maneira como a OpenAI reagiu depois que eles comunicaram à empresa que haviam encontrado uma forma de entrar em seus sistemas.Assim como muitas grandes empresas, a OpenAI incentiva publicamente pesquisadores de segurança a relatarem vulnerabilidades.Fabian Faessler, chefe de engenharia de agentes da Hacktron, afirmou em publicação no X que Dane Stuckey, diretor de segurança da informação da OpenAI, havia chamado os pesquisadores de pouco profissionais. Faessler disse que esperava uma reação mais receptiva da empresa.Continua após a publicidadeDan Wallach, pesquisador residente em segurança de IA na organização Rand, afirmou que a OpenAI teve sorte porque a vulnerabilidade foi descoberta por pesquisadores que decidiram se apresentar e compartilhar o que haviam encontrado.“Como regra geral, não é educado fazer o que eles fizeram, mas eu acho que a OpenAI deveria estar satisfeita porque o invasor foi gentil o suficiente para avisá-los”, disse Wallach ao The Washington Post.Depois da publicação da sequência de posts de Faessler no X, Stuckey entrou em contato com o pesquisador para pedir desculpas, segundo uma publicação posterior de Faessler.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →