Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável

Tudo sobre China

Tudo sobre Estados Unidos

Tudo sobre Inteligência Artificial

A reunião entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial nas discussões entre Estados Unidos e China. Os dois governos avaliam como lidar com sistemas cada vez mais autônomos, enquanto mantêm a corrida pelo avanço da tecnologia.Continua após a publicidadeUma possível aproximação envolve regras comuns, comunicação em casos graves e mecanismos para verificar informações. Segundo a CNBC, porém, um acordo para desacelerar o desenvolvimento da IA é considerado extremamente improvável.
As restrições americanas aos chips avançados para a China continuam sendo um ponto de tensão tecnológica. – Imagem gerada com IA. ChatGPT/Olhar DigitalPor que a segurança entrou na conversaA preocupação aumentou depois que sistemas de IA passaram a executar tarefas mais complexas. A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face. A Anthropic também identificou o uso de IA para automatizar etapas de ataques cibernéticos.Episódios assim alimentam o temor de que modelos mais autônomos possam tornar ataques mais rápidos e difíceis de conter. Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), disse à CNBC que os dois países estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites.Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, discutiu com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre IA. A proposta inclui um canal para tratar de incidentes que possam alcançar o nível de segurança nacional.O que pode ser discutidoMehta aponta dois possíveis pontos de aproximação: definições e estruturas comuns para a segurança de modelos avançados e um mecanismo de comunicação emergencial.Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), considera esse canal para incidentes de segurança nacional um passo modesto, mas positivo. Para ele, porém, um acordo para reduzir o ritmo de desenvolvimento da IA é extremamente improvável.Entre os assuntos que podem aparecer nas conversas estão:
definições comuns para segurança de sistemas avançados;

comunicação sobre incidentes de segurança;

mecanismos para verificar informações compartilhadas;

acusações sobre o uso de “distillation” por empresas chinesas;

restrições americanas à exportação dos chips de IA mais avançados.

A possível cooperação em segurança não significa uma pausa na disputa entre EUA e China pelo avanço da IA. – Imagem: QQMinh88/ShutterstockA corrida pelos chips continuaO possível diálogo ocorre em meio a uma disputa tecnológica que permanece ativa. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas chinesas de usar “distillation”, prática de treinar modelos a partir das respostas de sistemas mais avançados. Pequim rejeita a acusação.Segundo a CNBC, várias empresas chinesas também teriam conseguido acessar remotamente a capacidade computacional desses chips por meio de data centers no Sudeste Asiático, apesar das restrições americanas.Trump, por sua vez, defende a competição tecnológica com a China. “Se não vencermos a IA, estaremos em uma posição muito ruim”, afirmou o presidente americano no início deste mês.Continua após a publicidadeVerificação pode ser decisivaPara Mehta, qualquer cooperação precisa preservar a capacidade de Estados Unidos e China competirem no desenvolvimento de suas tecnologias. O outro requisito é estabelecer uma forma confiável de verificar o que cada lado compartilha.Leia mais:O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu a criação de salvaguardas comuns. “Por que não concordamos simplesmente que não deveria ser possível ter uma IA que se autoaperfeiçoe?”, questionou.A desconfiança entre os governos torna os mecanismos de verificação especialmente importantes. Na avaliação de Mehta, ferramentas técnicas e de governança seriam necessárias para conferir a precisão das informações trocadas.Continua após a publicidadeO encontro pode criar um canal de comunicação sobre os riscos da IA sem interromper a competição tecnológica entre Estados Unidos e China.

Valdir Antonelli

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Ver todos os artigos →