A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) recomendaram que a empresa responsável pela plataforma X adote medidas para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados ilegais. As recomendações foram divulgadas nesta terça-feira (20).
Entre as principais orientações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados ainda disponíveis na plataforma quando gerados pelo Grok a partir de comandos de usuários. As instituições também pedem a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, sem autorização.
O documento ainda recomenda a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam denunciar o uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de conteúdos sintéticos sexualizados produzidos sem consentimento. As autoridades cobram que essas denúncias tenham resposta adequada e em prazo razoável.
As recomendações foram elaboradas após denúncias de usuários e reportagens nacionais e internacionais apontarem que o Grok estaria sendo usado para criar deepfakes, técnica que utiliza inteligência artificial para gerar imagens falsas a partir de pessoas reais. Testes realizados pelas próprias instituições também indicaram a produção de conteúdos com caráter sexual, erótico e pornográfico envolvendo mulheres, crianças e adolescentes reais.
Segundo o documento, esse tipo de prática afeta diretamente a proteção de dados pessoais, a dignidade da pessoa humana e outros direitos fundamentais, especialmente de grupos mais vulneráveis. As instituições ressaltam que, embora o artigo 19 do Marco Civil da Internet trate da responsabilidade de provedores, no caso das deepfakes há uma interação direta entre usuários e a ferramenta de IA do X, o que caracterizaria a plataforma como coautora desses conteúdos.
O texto também cita decisão recente do Supremo Tribunal Federal, que declarou a inconstitucionalidade parcial do artigo 19 do Marco Civil da Internet, ao entender que a norma não garante proteção suficiente a direitos constitucionais relevantes. Com isso, os provedores passam a ter um dever maior de cuidado para evitar a circulação de crimes graves, incluindo conteúdos de ódio e violência contra mulheres.
As instituições lembram ainda que a própria política do X proíbe nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual, o que tornaria incoerente a disponibilização de uma ferramenta de IA sem filtros rigorosos. Caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, medidas administrativas e judiciais poderão ser adotadas.
O que é o Grok
O Grok é uma ferramenta de inteligência artificial generativa criada pela empresa xAI e integrada à plataforma X. Ela permite que usuários gerem textos, imagens e outros conteúdos a partir de comandos, de forma semelhante a outros sistemas de IA generativa. O problema apontado pelas autoridades é o uso do Grok para criar imagens falsas e sexualizadas de pessoas reais, prática que pode configurar crime e violar direitos fundamentais quando ocorre sem consentimento.
Fonte: Agência Brasil
