Wikimedia acusa agentes da OpenAI de ações não autorizadas

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

Agentes de inteligência artificial (IA) que a Fundação Wikimedia acredita serem operados pela OpenAI realizaram uma série de atividades não autorizadas em suas plataformas e podem ter contribuído para uma interrupção parcial de um de seus serviços em maio.Continua após a publicidadeA entidade, responsável por manter a Wikipédia e outros projetos de conhecimento aberto, identificou milhões de requisições automatizadas, edições não autorizadas e tentativas de explorar uma ferramenta de anotações.A investigação da Wikimedia não encontrou evidências de que os sistemas ou dados da organização tenham sido comprometidos. Também não foram identificados sinais de que os agentes tenham usado a infraestrutura da entidade para coordenar suas próprias atividades.Mesmo assim, a fundação afirmou estar preocupada com o comportamento desses sistemas e com a dificuldade de identificar e atribuir esse tipo de atividade.Milhões de páginas acessadas
Segundo a Wikimedia, agentes que ela acredita serem operados pela OpenAI fizeram milhões de requisições automatizadas às APIs públicas da organização;

Os sistemas também percorreram milhões de páginas, principalmente nos projetos Wikidata e Wikimedia Commons, além de realizarem centenas de milhares de consultas ao Wikidata Query Service (WDQS), ferramenta utilizada para pesquisar e consultar os dados estruturados do Wikidata;

A Wikimedia afirma que esse volume de tráfego pode ter contribuído para uma interrupção parcial do WDQS em maio;

O registro do incidente aponta que a instabilidade começou em 7 de maio e afetou o serviço por vários dias;

Em determinado momento, mais de 50% das requisições ao endpoint externo do serviço apresentavam timeout, enquanto o sistema chegou a entregar dados desatualizados por mais de 20 horas em alguns servidores.
Agentes fizeram edições sem autorizaçãoA investigação também encontrou edições em wikis que a Wikimedia atribui a agentes da OpenAI.A maioria ocorreu em áreas de testes, conhecidas como sandboxes, e não chegou a páginas exibidas normalmente para os leitores. No entanto, alguns agentes fizeram alterações na configuração de uma ferramenta de citações.Segundo a fundação, essas mudanças podem ter sido maliciosas e aparentemente tinham como objetivo utilizar a ferramenta como um intermediário para buscar dados em serviços externos.A Wikipédia permite que bots façam determinadas edições, desde que sejam identificados e aprovados pela comunidade. De acordo com a Wikimedia, nenhuma dessas autorizações foi solicitada nos casos investigados.
Wikimedia mantém a Wikipédia e outros serviços gratuitos – Imagem: Mehaniq/Shutterstock

Tentativa de explorar ferramenta de anotaçõesOutro alvo foi o Etherpad, ferramenta pública de anotações hospedada pela Wikimedia como serviço para a comunidade.Agentes que a fundação acredita estarem ligados à OpenAI tentaram, sem sucesso, comprometer a ferramenta. Uma das estratégias identificadas envolvia tentar utilizá-la como intermediária para buscar dados em outros sites.Outros agentes aparentemente ligados à OpenAI também usaram o Etherpad para registrar anotações sobre suas próprias tarefas. A investigação, porém, não encontrou evidências de que essas anotações tenham sido usadas para coordenar as atividades dos diferentes agentes.Apesar das atividades identificadas, a investigação não encontrou evidências de comprometimento dos sistemas ou dos dados da Wikimedia. A entidade também não encontrou indícios de que sua infraestrutura tenha sido usada para permitir a comunicação ou coordenação entre agentes.Continua após a publicidadeO problema, segundo a fundação, vai além de uma eventual invasão bem-sucedida. O volume de acessos automatizados pode consumir recursos de infraestrutura, aumentar custos e até impedir que usuários humanos consigam acessar os serviços normalmente.A Wikimedia afirma que o comportamento de agentes autônomos representa desafio para plataformas construídas originalmente para interação humana e que ainda não existem soluções suficientes para lidar com esse tipo de atividade.OpenAI já reconheceu comportamento imprevisívelA Fundação Wikimedia afirmou que empresas de IA precisam assumir responsabilidade pelos agentes que colocam em circulação e desenvolver mecanismos para monitorar e impedir danos a serviços públicos da internet.A entidade também citou declarações da própria OpenAI sobre agentes que podem apresentar comportamentos “imprevisíveis”.Continua após a publicidadePara a Wikimedia, não é suficiente que organizações menores ou comunidades de voluntários tenham de identificar, investigar e corrigir as consequências dessas atividades depois que elas acontecem.O episódio ocorre em meio a uma série de investigações sobre agentes de IA desenvolvidos pela OpenAI. A empresa já havia informado que estava investigando atividades não autorizadas de seus agentes e notificando organizações afetadas por comportamentos considerados indevidos.No caso da Wikimedia, a fundação afirma que os episódios reforçam a preocupação com o impacto que agentes autônomos podem ter sobre a infraestrutura pública da internet — especialmente quando conseguem acessar serviços em grande escala sem autorização.A organização defende que empresas que desenvolvem e colocam esses agentes em circulação também devem ajudar a evitar e reparar os danos que eles possam causar.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →