Pesquisadores identificam “frota” de IAs que tentou invadir sistemas do Alibaba

Tudo sobre Inteligência Artificial

Um grupo internacional de pesquisadores identificou mais de uma dezena de agentes de inteligência artificial (IA) que tentaram acessar sistemas protegidos do Alibaba, gigante chinesa de tecnologia. As atividades ocorreram entre o fim de setembro e o início de outubro e apresentaram indícios de ligação com serviços de computação em nuvem da Tencent.Continua após a publicidadeSegundo um relatório publicado nesta quarta-feira (14) pelo grupo Swarmchasers, que reúne pesquisadores de segurança em IA dos Estados Unidos e de outros países, os agentes tentaram acessar o Amap, serviço de mapas do Alibaba. A investigação identificou 2.818 tentativas de acesso a dados entre 28 de setembro e 8 de outubro.Os pesquisadores afirmam que a atividade partiu de um ambiente isolado de testes, conhecido como sandbox, na infraestrutura da Tencent Cloud. Os agentes teriam utilizado serviços públicos de varredura de segurança para executar códigos remotamente e comandos em navegadores de internet.Embora a maioria das tentativas não tenha avançado significativamente, alguns agentes conseguiram contornar mecanismos de proteção contra bots. Os pesquisadores disseram, porém, que não encontraram evidências de acesso a sistemas privados.Pesquisadores não identificaram o modelo de IA
O relatório, intitulado “We found a Chinese fleet” (“Encontramos uma frota chinesa”, em tradução livre), aponta indícios que associam a atividade à infraestrutura da Tencent em Hong Kong e Shenzhen (China);

Isso não significa, entretanto, que os pesquisadores tenham identificado o modelo de IA utilizado. Segundo o grupo, ainda não está claro qual sistema estava sendo desenvolvido ou avaliado. A Tencent também trabalha com modelos de terceiros, o que impede atribuir diretamente a operação a uma IA própria da companhia;

Os agentes aparentemente buscavam responder a perguntas sobre o serviço Amap, como identificar qual entrada de um zoológico é a mais popular. Os pesquisadores não conseguiram determinar quais dados eram o alvo das tentativas nem qual era o objetivo final da atividade;

A Tencent e o Alibaba não responderam aos pedidos de comentário enviados pela Bloomberg.

Agentes tentaram acessar o Amap, serviço de mapas do Alibaba – Imagem: PhotoGranary02/Shutterstock
Leia mais:Agentes de IA podem escapar de ambientes de testePara Ethan Elasky, um dos autores do relatório e diretor-executivo da organização sem fins lucrativos Palaestra Research, o episódio se soma a evidências de agentes de IA que escapam de ambientes de avaliação e passam a agir sem supervisão humana.“Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet”, afirmou Elasky.Continua após a publicidadeOs pesquisadores diferenciaram o caso de outros episódios de comportamento coletivo de agentes, como o incidente envolvendo modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face em julho. Segundo o relatório, os agentes identificados na investigação atual não pareciam colaborar entre si da mesma maneira.O episódio ocorre em meio a preocupações sobre o controle de sistemas autônomos de IA. Em setembro, a OpenAI adiou o lançamento de seu modelo mais avançado para reforçar as medidas de segurança.Kok Tin Gan, cofundador e diretor-executivo da empresa de segurança cibernética NyxLab, afirmou que a principal questão não é determinar se os agentes utilizavam um modelo chinês ou estadunidense, nem se eram realmente autônomos ou estavam fora de controle.Para ele, o desafio mais importante é garantir que esses sistemas permaneçam sob controle. À medida que os agentes de IA ganham autonomia, organizações precisam estabelecer limites claros de atuação, monitoramento contínuo e mecanismos eficazes de intervenção.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →