Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br

Tudo sobre Inteligência Artificial

Vídeos falsos produzidos por inteligência artificial e informações de baixa qualidade já representam uma ameaça maior às eleições e à democracia do que as tradicionais fake news. É o que aponta o novo Guia Internet, Democracia e Eleições, publicado pelo CGI.br.Continua após a publicidadeSegundo a Agência Brasil, o documento compara o cenário atual com o de 2018, quando as redes abertas tinham papel central na disseminação de desinformação. Hoje, redes mais restritas, como o WhatsApp, ganharam espaço nessa circulação.
A multiplicação de conteúdos falsos pode alimentar a desconfiança até diante de informações verdadeiras. Imagem: Marcelo Camargo/Agência Brasil – Imagem: Marcelo Camargo/Agência BrasilVídeo assume protagonismoA desinformação também deixou de depender de uma única plataforma. Segundo o guia, conteúdos enganosos circulam ao mesmo tempo em diferentes ambientes digitais, com o vídeo passando a ser o principal vetor.Em geral, esses vídeos vêm acompanhados de textos curtos que ajudam a sustentar e dar aparência de legitimidade à narrativa falsa. A IA generativa, que já apareceu no ciclo eleitoral de 2022, deve ganhar ainda mais espaço neste ano, combinada a ferramentas capazes de direcionar mensagens para perfis específicos.Entre os pontos destacados pelo CGI.br estão:
crescimento do uso de vídeos na desinformação;

maior circulação de conteúdos em redes restritas, como o WhatsApp;

uso de IA generativa para produzir conteúdos enganosos;

direcionamento de mensagens a perfis específicos;

técnicas que tornam narrativas falsas mais convincentes.

Hoje, as plataformas digitais ocupam um lugar central na forma como os brasileiros se informam sobre o que acontece no mundo, no país e nas cidades onde vivem.
Renata Mielli, coordenadora do CGI.br, à Agência Brasil.O problema das deepfakesO realismo das deepfakes está entre as principais preocupações levantadas pelo estudo. À medida que essas ferramentas avançam, identificar uma falsificação pode se tornar difícil até para pessoas acostumadas a avaliar informações.A consequência pode ir além de acreditar em uma mentira. O guia alerta para a possibilidade de que a multiplicação de conteúdos falsos provoque desconfiança até diante de informações verdadeiras.

A perda de confiança na imprensa e no Judiciário, associada à polarização política, também aparece como fator de preocupação. Segundo o guia, esse ambiente pode favorecer situações em que convicções pessoais acabam se sobrepondo à checagem dos fatos.
Aplicativos como o WhatsApp ganharam espaço na circulação de conteúdos enganosos durante a transformação do ambiente digital. – Imagem: Primakov/ShutterstockQuando a crença pesa maisO estudo chama atenção para outro comportamento: a tendência de buscar conteúdos que confirmem aquilo que a pessoa já pensa. Informações contrárias às próprias convicções podem ser descartadas. O guia chama esse mecanismo de racionalidade motivada e aponta seu potencial de reforçar posições ideológicas.Continua após a publicidadeOs influenciadores também entram nessa discussão. O CGI.br reconhece sua relevância na comunicação digital, mas ressalta uma diferença em relação ao jornalismo: eles não seguem um código de ética nem respondem institucionalmente pela veracidade de suas afirmações da mesma forma que o jornalismo.A publicação explica o funcionamento dos sistemas de recomendação e discute o impacto da IA generativa nas eleições. Também apresenta conceitos ligados às deepfakes e aos modelos de linguagem conversacionais.O material reúne ainda orientações para instituições enfrentarem a desinformação e recomendações para que cidadãos não se tornem vítimas ou propagadores de conteúdos falsos ou enganosos.A mudança apontada pelo CGI.br mostra como a desinformação eleitoral passou a combinar novos formatos, inteligência artificial e diferentes canais de distribuição. O desafio envolve não apenas identificar uma informação falsa, mas também compreender como ela é produzida e chega a públicos específicos.

Valdir Antonelli

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Ver todos os artigos →