Big techs reforçam combate a conteúdos falsos gerados por IA nas eleições dos EUA

Tudo sobre Google

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

OpenAI, Anthropic, Google e Meta reforçaram suas estratégias para impedir que ferramentas de inteligência artificial (IA) sejam usadas para manipular as eleições legislativas dos Estados Unidos, que estão sendo realizadas nesta terça-feira (3). As empresas montaram equipes especializadas para monitorar atividades suspeitas e tentar conter campanhas de desinformação capazes de comprometer a confiança no processo democrático.Continua após a publicidadeNa OpenAI, mais de uma dúzia de funcionários trabalha em uma central de operações instalada em escritório da companhia em São Francisco (EUA). A estrutura representa ampliação significativa dos esforços adotados pela empresa durante a eleição presidencial de 2024, quando os recursos de IA eram menos avançados e o ChatGPT tinha apenas um quinto da base de um bilhão de usuários que possui atualmente.“Em 2024, a tecnologia mais acessível era o texto. Agora, não estamos monitorando apenas textos”, afirmou Josh Lawson, responsável pela área de riscos cívicos e estratégicos da OpenAI e líder da operação, ao The New York Times.O cenário atual inclui ameaças que vão de vídeos deepfake e ataques cibernéticos a operações de influência estrangeira e doméstica. Com ferramentas de IA, esse tipo de campanha pode ser produzido e colocado em circulação a partir de uma sequência de comandos.Anthropic também monta central de monitoramento
A OpenAI não é a única empresa a reforçar suas defesas. A Anthropic, responsável pelo chatbot Claude, criou pela primeira vez uma sala de operações dedicada ao tema, reunindo equipes de analistas em São Francisco, Nova York (EUA) e Washington (EUA);

Google e Meta também prometeram ampliar os esforços para impedir que suas ferramentas de IA sejam usadas para enfraquecer a confiança no processo democrático;

Na OpenAI, a central eleitoral começou a funcionar na quinta-feira anterior à votação. A equipe de São Francisco trabalha em conjunto com uma unidade em Washington e reúne dezenas de pessoas, segundo representantes da companhia;

Os funcionários analisam comandos enviados ao ChatGPT que são sinalizados automaticamente por possíveis tentativas de produzir textos ou imagens falsas sobre as eleições;

Um exemplo seria o uso do chatbot para elaborar uma campanha de influência baseada em alegações falsas de fraude eleitoral, como acusações de manipulação de cédulas. O material poderia ser distribuído em redes sociais por meio de contas falsas;

Quando identifica atividades maliciosas destinadas a circular em determinadas plataformas, a OpenAI afirma que notifica as empresas responsáveis por esses serviços.

Google e Meta estão entre as empresas que estão se mexendo para tentar impedir o mau uso da IA nas eleições estadunidenses – Imagem: gguy/Shutterstock
IA amplia riscos de manipulação eleitoralUm levantamento do Brennan Center for Justice, organização ligada à Faculdade de Direito da Universidade de Nova York, identificou cenário contraditório.Os chatbots mais populares geralmente resistem a solicitações relacionadas a teorias conspiratórias sobre eleições. Ao mesmo tempo, as ferramentas de IA produzem regularmente textos, imagens e vídeos que podem ser utilizados para enfraquecer a confiança na votação.A preocupação também está relacionada à redução das equipes de segurança e moderação das redes sociais nos últimos anos. Após a interferência russa nas eleições presidenciais de 2016, a Meta criou uma central de operações para as eleições legislativas de 2018.Continua após a publicidadeDesde então, porém, a Meta e outras plataformas reduziram equipes responsáveis por segurança e combate à desinformação eleitoral. A decisão ocorreu em meio à pressão de republicanos e, a partir de 2025, do governo Donald Trump, que acusaram as empresas de censurar opiniões conservadoras.Esse recuo coincidiu com a expansão das ferramentas de IA, aumentando os receios sobre o impacto da tecnologia nas eleições. Especialistas e ex-integrantes do governo estadunidense também alertaram para a capacidade desses recursos de tornar campanhas de manipulação mais convincentes, enquanto o governo Trump desmontou equipes federais que anteriormente atuavam no combate a ameaças ao processo eleitoral.“Seria imprudente pensar que essa ameaça desapareceu e que a tecnologia não está tornando essas ameaças mais poderosas e convincentes”, afirmou Lauren Protentis, ex-integrante do Conselho de Segurança Nacional dos Estados Unidos, onde supervisionava questões relacionadas à influência estrangeira maliciosa durante o governo de Joe Biden.Continua após a publicidadeOpenAI já identificou operações ligadas a outros paísesA OpenAI já havia divulgado tentativas de Rússia, China e Irã de utilizar o ChatGPT em operações de influência estrangeira. A empresa afirma ter interrompido duas campanhas desse tipo no mês anterior à eleição estadunidense.Até o momento, porém, a companhia não havia divulgado nenhuma operação específica relacionada às eleições legislativas de novembro.O investigador-chefe da OpenAI, Ben Nimmo, afirmou que o objetivo é identificar essas iniciativas antes que consigam alcançar um público significativo.“Estamos tentando detectar as operações antes que tenham a oportunidade de ganhar força”, declarou.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →