Indonesia y Malasia se han convertido en los primeros países en bloquear oficialmente Grok, la herramienta de inteligencia artificial de la plataforma X, tras la propagación masiva de imágenes manipuladas con connotaciones sexuales. La medida responde a la creciente preocupación por la función de desnudez digital de esta IA, la cual ha sido utilizada para generar deepfakes de mujeres y menores de edad, inundando internet con contenido obsceno y no consensuado.
El ministro digital de Indonesia, Meutya Hafid, justificó la prohibición como una acción necesaria para proteger a los ciudadanos de los riesgos del contenido pornográfico falso, mientras que el gobierno malasio denunció el uso indebido repetido de la herramienta para crear material ofensivo e indecente.
A pesar de que Elon Musk y su empresa xAI afirmaron estar trabajando en la suspensión de cuentas infractoras y en la colaboración con autoridades, la presión internacional continúa en aumento. Funcionarios del Reino Unido, la Unión Europea y la India han expresado su alarma ante la falta de barreras de protección eficaces en Grok, que a diferencia de otros modelos de IA, parece permitir una mayor generación de contenido sexualizado.
Investigaciones recientes revelan que más de la mitad de las imágenes de personas generadas por este chatbot muestran a individuos con vestimenta mínima, lo que ha generado un fuerte rechazo global. Aunque Musk defiende la libertad de expresión, las restricciones parciales implementadas hasta ahora no han sido suficientes para frenar una tendencia que muchos líderes mundiales califican como aborrecible.
