Malásia e Indonésia: Os primeiros países a bloquear o Grok de Musk por causa de imagens sexualizadas de IA
Reguladores de ambos os países afirmaram que as salvaguardas de Grok não conseguiram impedir a criação e disseminação de conteúdo pornográfico manipulado.
Malásia e Indonésia se tornaram os primeiros países a bloquear o Grok, o chatbot de inteligência artificial desenvolvido pela empresa xAI de Elon Musk, após as autoridades informarem que ele estava sendo usado para gerar imagens sexualizadas e não consensuais.
Reguladores de ambos os países afirmaram que as salvaguardas de Grok não impediram a criação e disseminação de conteúdo pornográfico manipulado, incluindo imagens envolvendo mulheres e menores. A Indonésia foi a primeira a agir no fim de semana, seguida pela Malásia, citando riscos à privacidade, dignidade e segurança pública quando fotos reais são alteradas sem consentimento.
O ministro indonésio das Comunicações, Meutya Hafid, chamou os deepfakes sexuais não consensuais de grave violação dos direitos humanos, alertando que o uso indevido da IA está ultrapassando as proteções atuais. Autoridades disseram que as primeiras verificações mostraram que Grok poderia facilmente ser usado para fabricar imagens explícitas de cidadãos comuns.
A autoridade de comunicações da Malásia apontou para o uso indevido repetido do chatbot e disse que já havia emitido notificações à X Corp. e à xAI exigindo controles mais rigorosos. O acesso permanecerá bloqueado, afirmou, até que salvaguardas eficazes sejam implementadas para evitar abusos adicionais.
A repressão no Sudeste Asiático aumenta a pressão em outros lugares. A Grã-Bretanha abriu uma investigação sobre o Grok e está avançando para proibir os chamados "aplicativos de nudificação", enquanto reguladores na Europa e na Índia também acompanham de perto, transformando o chatbot de Musk em um caso de teste global para até onde os governos irão para policiar conteúdos gerados por IA.