ANPD coloca ChatGPT, Gemini, Instagram e outras plataformas na mira

Tudo sobre Inteligência Artificial

A Agência Nacional de Proteção de Dados (ANPD) iniciou, nesta sexta-feira (21), uma ação de monitoramento das principais plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial (IA) generativa utilizadas no Brasil.Continua após a publicidadeO objetivo é verificar se esses serviços adotam medidas para cumprir as obrigações estabelecidas pelo Marco Civil da Internet (MCI) e pelo Estatuto Digital da Criança e do Adolescente (ECA Digital). As empresas começaram a ser notificadas nesta sexta-feira (21) e terão dez dias úteis, contados a partir da ciência da notificação, para responder aos questionamentos da Agência.A iniciativa faz parte do plano de ação da ANPD para implementar as novas competências atribuídas à instituição após a atualização da regulamentação do Marco Civil da Internet. O cronograma para essas ações foi divulgado pela Agência em junho deste ano.O monitoramento pretende coletar informações que subsidiem as próximas ações da ANPD e verificar se as plataformas, lojas de aplicativos e ferramentas de IA generativa possuem mecanismos adequados para prevenir e impedir a circulação de conteúdos criminosos ou ilícitos.A Agência dará atenção especial aos riscos que possam afetar crianças, adolescentes e mulheres no ambiente digital. As ações também avaliarão medidas adotadas para cumprir o ECA Digital, que entrou em vigor em março deste ano.22 serviços entram no monitoramentoA ANPD dividiu os serviços monitorados em dois grupos, de acordo com o tipo de serviço oferecido e os riscos associados.O primeiro grupo reúne plataformas digitais e aplicativos de mensagem. São eles:
Instagram;

Facebook;

WhatsApp, especificamente na funcionalidade pública “Canais”;

Telegram, nas funcionalidades “Canais públicos” e “Grupos públicos”;

TikTok;

X;

Discord;

YouTube;

Kwai;

LinkedIn;

Snapchat;

Pinterest;

Reddit.
O segundo grupo inclui lojas de aplicativos e ferramentas de IA generativa:
App Store;

Google Play Store;

Copilot;

Claude;

DeepSeek;

Gemini;

ChatGPT;

Meta AI;

Perplexity.


Ao todo, 22 agentes foram selecionados para o monitoramento. Entre os critérios utilizados pela ANPD estão o alcance dos serviços no mercado brasileiro, a relevância das plataformas, as funcionalidades disponibilizadas e os riscos relacionados à circulação de conteúdos produzidos por terceiros.A Agência também considerou especialmente os riscos relacionados à proteção de crianças, adolescentes e mulheres no ambiente digital.Comunicações privadas ficam fora da fiscalizaçãoO monitoramento não abrange serviços de e-mail nem as comunicações privadas realizadas por aplicativos de mensagem, em respeito ao sigilo das comunicações e conforme estabelece o Decreto nº 8.771/2016.Quando uma empresa incluída na ação também oferece serviços de mensageria, a atuação da ANPD fica limitada às funcionalidades que permitem a difusão pública ou a intermediação pública de conteúdos produzidos por terceiros. Isso inclui recursos, como canais, comunidades ou grupos abertos.Continua após a publicidadeConversas privadas entre usuários ou entre grupos determinados de usuários não fazem parte do escopo da ação.O que as plataformas terão de informarNesta primeira fase, plataformas e lojas de aplicativos deverão responder a questionamentos sobre a existência e a efetividade de diferentes estruturas e mecanismos. Entre os pontos avaliados estão:
Estruturas de governança;

Mecanismos de transparência;

Sistemas de gestão e mitigação de riscos;

Procedimentos de moderação de conteúdo;

Canais de denúncia;

Medidas de proteção dos usuários;

Outros mecanismos destinados ao cumprimento das leis e normas brasileiras.
As respostas serão analisadas pela Superintendência de Fiscalização (SFI) da ANPD. A avaliação poderá ser feita em conjunto com outras informações sobre o funcionamento das plataformas, denúncias recebidas e demais elementos técnicos disponíveis.Continua após a publicidadeEsse conjunto de dados servirá de base para os próximos passos da Agência na fiscalização das obrigações previstas no Marco Civil da Internet e no ECA Digital.
Ao todo, 22 agentes foram selecionados para o monitoramento – Imagem: Thanmano/iStockLeia mais:Plataformas terão de combater conteúdos criminososNo caso das plataformas digitais, a ANPD avaliará, entre outros aspectos, se existem salvaguardas para impedir a veiculação e o impulsionamento de conteúdos criminosos ou ilícitos.A Agência também verificará se os serviços mantêm canais de denúncia para receber e tratar notificações sobre esse tipo de conteúdo e sobre violações aos direitos de crianças e adolescentes.Continua após a publicidadeOutro ponto analisado será a adoção de medidas para prevenir a violência contra mulheres no ambiente digital, incluindo mecanismos destinados a reduzir o alcance de ataques coordenados.IA será avaliada por proteção contra conteúdo íntimoNo monitoramento das lojas de aplicativos e ferramentas de inteligência artificial generativa, a atenção estará voltada principalmente às proteções contra a geração, edição, manipulação ou modificação de conteúdo íntimo envolvendo terceiros, inclusive quando houver utilização de IA.As empresas deverão informar quais filtros, bloqueios, sistemas de detecção e outros mecanismos de segurança utilizam para impedir ou identificar a geração desse tipo de conteúdo. Também deverão demonstrar a efetividade das salvaguardas implementadas.Os documentos dos dois processos que estão disponíveis para consulta pública podem ser acessados pelo Sistema Eletrônico de Informação (SEI) da ANPD.Continua após a publicidadeMonitoramento começou em junhoA nova ação se soma a outro monitoramento iniciado pela ANPD em junho e que ainda está em andamento.A iniciativa anterior tem como foco lojas de aplicativos, sistemas operacionais e sites com conteúdo pornográfico, com o objetivo de verificar a implementação das obrigações relacionadas à aferição de idade previstas no ECA Digital.O que mudou para as plataformasA atuação da ANPD ocorre após a atualização da regulamentação do Marco Civil da Internet (MCI). O Decreto nº 12.975/2026 atualizou as regras do MCI e detalhou como provedores de aplicações de internet, incluindo plataformas digitais e redes sociais, devem agir de maneira proativa diante do crescimento da violência digital.O decreto também estabelece medidas relacionadas à prevenção de fraudes digitais e golpes online, independentemente de decisões judiciais específicas para a indisponibilização de conteúdos que caracterizem determinados crimes.Já o Decreto nº 12.976/2026 é direcionado à proteção das mulheres no ambiente digital.Os dois normativos atribuíram à ANPD competências de regulação, fiscalização e apuração de infrações relacionadas à garantia dos direitos dos usuários e ao cumprimento dos deveres das plataformas digitais.Com as novas atribuições, a Agência passou a fiscalizar o cumprimento das obrigações relacionadas à atuação dos provedores de aplicações de internet, verificando se eles adotam medidas técnicas adequadas para prevenir e reduzir a circulação massiva de conteúdos criminosos.A atuação da ANPD tem caráter sistêmico, com foco nos mecanismos, processos e estruturas adotados pelas plataformas para cumprir a legislação. A Agência não analisará conteúdos ou publicações de forma isolada.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →