Instituto de Defesa de Consumidores pede ao governo suspensão do Grok no Brasil

13/01/2026
0 Comentário(s)

Idec pede bloqueio devido à violação de direitos de crianças, adolescentes e mulheres.

O Instituto de Defesa de Consumidores (Idec) comunicou nesta segunda-feira (12) que enviou um ofício ao governo pedindo a suspensão do Grok no Brasil por violação de direitos de crianças, adolescentes e mulheres. O órgão também cita reações internacionais ao caso, incluindo investigações em andamento em outros países.

O pedido vem após diversos casos de geração de imagens sexualizadas e pornográficas usando a ferramenta de inteligência artificial da xAI, que funciona integrada ao X (antigo Twitter).

Grok virou alvo de denúncias após ser usado para gerar imagens pornográficas de mulheres e crianças (Imagem: Algi Febri Sugita/Shutterstock)

Idec pediu suspensão do Grok no Brasil

O ofício foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O documento pede a adoção de providências cabíveis diante das violações associadas ao uso do Grok no X.

Em comunicado, o Idec cita “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres”. O órgão justifica que o Grok tem sido usada para gerar imagens sexualizadas e não consentidas, incluindo de menores de idade.

Os casos são um “defeito grave” na prestação de serviço da rede social e ferem o Código de Defesa do Consumidor (CDC), já que a plataforma não oferece a segurança esperada pelos usuários.

O Idec também pede que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (o ECA Digital) e na regulação da inteligência artificial, de forma a garantir “proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis”.

Elon Musk chegou a defender o Grok, dizendo que o problema era o uso indevido por parte dos usuários (Imagem: miss.cabul/Shutterstock)

Reação internacional ao Grok

O Idec cita casos de fora do Brasil, como investigações formais e exigências de retirada de conteúdo na União Europeia, Reino Unido, França e Índia. Segundo o órgão, as ações reforçam o “caráter sistêmico e global” do problema.

Alguns países também já anunciaram a suspensão temporária do Grok pelo mesmo motivo. A Indonésia se tornou o primeiro país a fazê-lo no sábado (11), citando riscos relacionados à geração de conteúdo pornográfico.

No Reino Unido, inclusive, parlamentares não descartam a suspensão do X no país.

Grok já foi suspenso na Indonésia e Malásia (Imagem: Bangla press/Shutterstock)

O que diz o governo e o X?

A POWER entrou em contato com os ministérios citados e com a Secretaria de Comunicação Social da Presidência da República.

O Ministério dos Direitos Humanos e da Cidadania demonstrou preocupação com as denúncias, destacando que, apesar do Brasil ter avançado para tornar o ambiente online mais seguro, ainda são necessárias novas ações para acompanhar os avanços das tecnologias. Para a ministra dos Direitos Humanos e da Cidadania, Macaé Evaristo, é inadmissível que o avanço tecnológico ocorra à custa da violação de direitos fundamentais. A nota na íntegra está ao final da publicação.

X, xAI e Elon Musk:

-Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem conteúdo ilegal;

-A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a criação desse tipo de material em primeiro lugar;

-No caso da investigação no Reino Unido, o X se pronunciou com uma declaração anterior dizendo tomar medidas contra conteúdo ilegal na plataforma, através da remoção e suspensão dos posts e das contas associadas. Também afirmou que trabalha com governos e autoridades policiais, conforme necessário.

-Diante de repercussão negativa, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do plano pago. No entanto, o site The Verge descobriu que a restrição não é bem o que parece e é possível driblar essa limitação.

Nota do Ministério dos Direitos Humanos e da Cidadania

O Ministério dos Direitos Humanos e da Cidadania (MDHC) manifesta profunda preocupação com as denúncias envolvendo o uso de ferramentas de Inteligência Artificial para a criação e disseminação de imagens com conteúdo erótico e de nudez, inclusive envolvendo mulheres, meninas e crianças.

Para a ministra dos Direitos Humanos e da Cidadania, Macaé Evaristo, é inadmissível que o avanço tecnológico ocorra à custa da violação de direitos fundamentais. “Nenhuma inovação pode se sobrepor à dignidade humana, à proteção integral de crianças e adolescentes e aos direitos das mulheres”, destaca.

O Brasil tem avançado de forma significativa na construção de um ambiente digital mais seguro. A aprovação e sanção do Estatuto da Criança e do Adolescente no Ambiente Digital (ECA Digital), em 2025, representou um marco importante na proteção de crianças e adolescentes frente às violências no meio digital.

No entanto, o MDHC reforça que novos avanços são necessários diante da rápida evolução das tecnologias.

Nesse contexto, o Projeto de Lei nº 2338/2023, que estabelece diretrizes para o uso da Inteligência Artificial no Brasil e já foi aprovado pelo Senado Federal, encontra-se em apreciação na Câmara dos Deputados.

A aprovação e sanção da proposta representam mais um passo essencial para fortalecer a responsabilização das plataformas e garantir maior segurança para mulheres, crianças, adolescentes e para a sociedade como um todo no ambiente digital.

O Ministério reafirma seu compromisso com a defesa dos direitos humanos e ressalta que nenhuma plataforma ou tecnologia pode estar acima das leis brasileiras e do respeito à dignidade humana.

#Compartilhe