ANPD notifica 22 big techs e amplia fiscalização de IA generativa no Brasil
Ação de monitoramento da autoridade brasileira mira em gigantes como Meta, Google e OpenAI, focando em proteção de vulneráveis e prevenção de deepfakes e conteúdo íntimo.
A Agência Nacional de Proteção de Dados (ANPD) iniciou uma ação de monitoramento de 22 das principais plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa em operação no Brasil. As empresas notificadas, que incluem os responsáveis por ChatGPT, Gemini, Instagram e TikTok, terão dez dias úteis para responder a questionamentos sobre como previnem a circulação de conteúdos criminosos e ilícitos. A medida representa um passo concreto da ANPD no uso de suas novas competências, atribuídas após a regulamentação do Marco Civil da Internet (MCI), e estabelece um novo patamar de escrutínio sobre o ecossistema digital do país.
O objetivo da agência é coletar informações para subsidiar futuras ações de fiscalização e verificar a adequação das empresas às obrigações do MCI e do Estatuto Digital da Criança e do Adolescente (ECA Digital), que entrou em vigor em março deste ano. A iniciativa foca especialmente nos riscos que afetam crianças, adolescentes e mulheres no ambiente digital.
Dois grupos sob a mira da regulação
A ANPD dividiu as 22 empresas notificadas em dois grupos distintos, baseando-se no tipo de serviço e nos riscos associados. A seleção considerou critérios como alcance no mercado brasileiro, relevância e funcionalidades que permitem a circulação de conteúdo de terceiros.
O primeiro grupo é composto por plataformas digitais e aplicativos de mensagem com funcionalidades públicas:
- WhatsApp (funcionalidade "Canais")
- Telegram ("Canais públicos" e "Grupos públicos")
- TikTok
- X
- Discord
- YouTube
- Kwai
- Snapchat
O segundo grupo foca em lojas de aplicativos e nas principais ferramentas de IA generativa disponíveis:
- App Store
- Google Play Store
- Copilot
- Claude
- DeepSeek
- Gemini
- ChatGPT
- Meta AI
- Perplexity
Gostou desta análise? Receba a próxima primeiro.
Edição diária da IA News com impacto real para empresas — grátis no seu e-mail.
É importante notar que o monitoramento exclui comunicações privadas, como e-mails e conversas diretas em aplicativos de mensagem, em respeito ao sigilo garantido pelo Decreto nº 8.771/2016. A atuação da ANPD se restringe a funcionalidades de difusão pública, como canais e grupos abertos.
O que a ANPD quer saber?
As empresas terão que fornecer detalhes sobre a existência e a efetividade de suas estruturas e mecanismos de proteção. A ANPD avaliará se as plataformas digitais possuem salvaguardas para impedir a veiculação e o impulsionamento de conteúdo criminoso, além de canais de denúncia eficazes para tratar de violações, especialmente contra crianças e adolescentes. Outro ponto de análise será a adoção de medidas para prevenir a violência contra mulheres, incluindo a redução do alcance de ataques coordenados.
Para todas as notificadas, a agência questionará sobre os seguintes pontos:
- Estruturas de governança interna.
- Mecanismos de transparência para os usuários.
- Sistemas de gestão e mitigação de riscos sistêmicos.
- Procedimentos de moderação de conteúdo.
- Canais de denúncia e seu funcionamento.
- Medidas de proteção geral dos usuários.
As respostas serão analisadas pela Superintendência de Fiscalização (SFI) da ANPD, que poderá cruzar os dados com outras informações e denúncias para definir os próximos passos da fiscalização.
Foco em IA: combate a deepfakes e conteúdo íntimo
No que diz respeito às ferramentas de IA generativa e lojas de aplicativos, o foco da ANPD é nítido: proteções contra a geração, edição ou manipulação de conteúdo íntimo de terceiros, incluindo o uso de IA para criar deepfakes. As empresas do setor, como OpenAI (ChatGPT), Google (Gemini) e Anthropic (Claude), deverão detalhar quais filtros, bloqueios e sistemas de detecção utilizam para impedir ou identificar a criação desse tipo de material.
A notificação direta aos desenvolvedores de modelos de IA, e não apenas às plataformas onde o conteúdo é distribuído, sinaliza que a autoridade brasileira está mirando a origem do problema. Isso coloca sobre os criadores de tecnologia uma responsabilidade que antes recaía majoritariamente sobre as redes sociais. A medida força as empresas de IA a pensar em segurança e ética desde a concepção de seus produtos (security by design), uma vez que a capacidade de seus modelos gerarem conteúdo prejudicial está sob escrutínio regulatório direto.
Análise IA News
A leitura da nossa redação
Análise do Repórter
Assinado: Redação IA News
A notificação em massa da ANPD é mais do que uma simples ação de fiscalização; é uma manobra estratégica que redefine o papel da agência. Tradicionalmente focada em proteção de dados sob a égide da LGPD, a ANPD agora se posiciona como uma reguladora de conteúdo e de riscos sistêmicos em plataformas digitais, utilizando as competências que lhe foram conferidas pelo Marco Civil da Internet. Essa expansão de escopo sinaliza uma transição de uma postura reativa para uma abordagem proativa na governança do ambiente digital, antecipando-se a danos em vez de apenas remediá-los.
A distinção explícita entre comunicações públicas e privadas é um dos pontos mais relevantes da ação. Para plataformas com funcionalidades híbridas, como WhatsApp e Telegram, isso cria um desafio de conformidade granular. Elas precisarão demonstrar que possuem mecanismos de moderação e mitigação de risco para seus canais e grupos públicos, ao mesmo tempo que garantem o sigilo das conversas privadas. Essa dualidade forçará uma revisão na arquitetura de produtos e nas políticas internas, com implicações diretas na experiência do usuário e na estratégia de monetização dessas funcionalidades.
Para o setor de IA generativa, o movimento da ANPD é um divisor de águas. Ao questionar diretamente desenvolvedores como OpenAI e Google sobre filtros contra a criação de conteúdo íntimo e deepfakes, a agência atribui responsabilidade na fonte da tecnologia. Isso pode acelerar a implementação de barreiras técnicas e éticas nos modelos de base, uma discussão que até então era mais proeminente em mercados como a União Europeia. A ação funciona como uma forma de "regulação por antecipação", estabelecendo padrões de conduta e moldando o mercado antes mesmo da existência de um Marco Legal da IA no Brasil.
Nos próximos meses, será crucial observar como as 22 empresas responderão à notificação e, mais importante, como a ANPD utilizará essas informações. O resultado pode variar desde a publicação de um relatório setorial com boas práticas até a instauração de processos administrativos específicos. De qualquer forma, a agência estabeleceu uma nova linha de base para a responsabilidade das big techs no país. A era da autorregulação sem consequências parece estar chegando ao fim, dando lugar a um modelo de corresponsabilidade supervisionada pelo Estado.
Contexto para empresários e decisores
O mercado brasileiro possui alta penetração de redes sociais e aplicativos de mensagem, enquanto a adoção de IA generativa no ambiente corporativo, embora crescente, ainda é incipiente. O cenário regulatório se torna mais complexo, ultrapassando as fronteiras da LGPD para abranger governança de conteúdo e riscos de IA, alinhando o Brasil a uma abordagem mais intervencionista, similar à europeia. Esta fiscalização aumenta a pressão por conformidade, elevando os custos operacionais com equipes jurídicas e de tecnologia. Empresas que operam no país agora enfrentam um quebra-cabeça regulatório multifacetado, que exige investimentos significativos em governança para mitigar riscos legais e reputacionais.
Impactos para empresas
- 1Aumento da carga de compliance regulatório, exigindo revisão e adaptação de políticas de moderação de conteúdo e termos de serviço para atender às especificidades da legislação brasileira.
- 2Elevação dos custos operacionais e legais, com a necessidade de investir em governança de IA, sistemas de detecção de conteúdo ilícito e equipes especializadas para gerir riscos e responder a fiscalizações.
- 3Necessidade de reavaliação de produtos e funcionalidades, especialmente em plataformas híbridas, para diferenciar o tratamento de comunicações públicas e privadas, impactando o design e a estratégia de lançamento de novos recursos.
- 4Risco reputacional e jurídico ampliado para desenvolvedores de IA, que agora são diretamente visados pela regulação de conteúdo, podendo ser responsabilizados pela geração de deepfakes e outros materiais ilícitos.
Conclusão editorial
A iniciativa da ANPD é um aviso claro de que a conformidade no ambiente digital brasileiro se tornou mais complexa. A simples existência de uma política de privacidade já não é suficiente. Empresas que desenvolvem ou utilizam plataformas digitais e IA generativa devem adotar uma postura proativa, investindo em estruturas robustas de governança de risco, moderação e transparência para se antecipar a futuras cobranças.
— Redação IA News
Fontes utilizadas
Apuração, análise e conclusão editorial produzidas pela redação do IA News a partir das fontes acima. O conteúdo não reproduz o texto original.