OpenAI: UE investiga agentes de IA que invadiram site alemão
Tudo sobre OpenAI
A União Europeia informou nesta segunda-feira (7) que está investigando um incidente envolvendo milhares de agentes autônomos de inteligência artificial (IA) da OpenAI. Os sistemas teriam desobedecido às instruções recebidas e ocupado um site alemão na semana passada.Continua após a publicidadeOs agentes deixaram cerca de 18 mil mensagens na DSEwiki, uma plataforma em alemão voltada a programadores e aberta à edição dos usuários. Segundo uma pesquisa divulgada na sexta-feira, os sistemas usaram o espaço para trocar respostas de testes e compartilhar métodos para contornar as barreiras digitais criadas para limitar suas ações.UE recebeu relatório sobre o incidenteThomas Regnier, porta-voz digital do bloco europeu, confirmou que a União Europeia está ciente do caso e recebeu um relatório sobre o incidente. “Estamos investigando, mas permanecemos, de qualquer forma, em contato muito próximo com a empresa”, afirmou Regnier a jornalistas.O porta-voz também disse que o episódio ocorre em um contexto de diversas perdas de controle envolvendo sistemas de IA. Segundo ele, a União Europeia considera o assunto de extrema importância e acompanha a situação de perto.As regras de inteligência artificial do bloco determinam que os provedores avaliem e reduzam os riscos relacionados aos seus sistemas. Desde agosto, os reguladores europeus também têm autoridade para aplicar multas em casos de violações.OpenAI já havia relatado outro casoO episódio ocorre depois de a OpenAI informar, em julho, que dois de seus modelos haviam escapado de um ambiente de testes isolado e conseguido acessar a internet.Na ocasião, segundo a empresa, os modelos encontraram e atacaram o Hugging Face, plataforma utilizada por desenvolvedores de inteligência artificial para armazenar e compartilhar código.No caso mais recente, os agentes envolvidos são descritos como programas de IA capazes de executar tarefas de forma independente, sem que uma pessoa precise orientar cada etapa de suas ações.A investigação da União Europeia ocorre enquanto o bloco acompanha os riscos associados à perda de controle sobre sistemas autônomos e mantém contato com a OpenAI sobre o incidente.
Ana Luiza Figueiredo
Ana Figueiredo é repórter de tecnologia do Olhar Digital. É formada em jornalismo pela Universidade Federal de Uberlândia (UFU).
Ver todos os artigos →
