Malasia restringe el acceso a Grok

ROMA, Italia.- Malasia se ha convertido en el segundo país en bloquear temporalmente el acceso a Grok, la plataforma de Elon Musk, tras la indignación mundial generada por la herramienta de IA y su capacidad para producir imágenes falsas y sexualizadas.
Malasia anunció que restringiría el acceso a Grok hasta que se implementaran medidas de seguridad efectivas, un día después de que Indonesia tomara medidas similares. Varios gobiernos y organismos reguladores han tomado medidas contra la herramienta de imágenes de Grok, integrada en la red social X, y ha provocado indignación, ya que permite a los usuarios manipular imágenes de mujeres y niños para desnudarlos y colocarlos en posiciones sexuales.
La empresa dirigida por Musk que desarrolló Grok, anunció la semana pasada que la capacidad de generar y editar imágenes estaría "limitada a los suscriptores de pago" de X. Dichos usuarios han proporcionado datos personales a la empresa y pueden ser identificados si se hace un uso indebido de la función.
Sin embargo, esta medida no ha logrado calmar la indignación en torno a Grok.
La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) anunció el domingo que restringiría el acceso a Grok debido a la capacidad de la herramienta de IA para "generar imágenes obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y manipuladas sin consentimiento, incluyendo contenido que involucra a mujeres y menores".
La MCMC indicó que este mes había enviado notificaciones a X y xAI para exigir la implementación de medidas técnicas y de moderación efectivas. Sin embargo, las respuestas recibidas se basaron principalmente en mecanismos de denuncia iniciados por los usuarios y no abordaron los riesgos inherentes que plantea Grok, según la MCMC, y añadió que consideraba que esto era insuficiente para prevenir daños o garantizar el cumplimiento legal.
El sábado, Indonesia también bloqueó temporalmente el chatbot. El ministro de Comunicaciones y Medios Digitales, Meutya Hafid, afirmó que el gobierno considera "la práctica de deepfakes sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital".
En toda Europa, reguladores y políticos también han emitido advertencias en las últimas semanas.
El ministro de Cultura y Medios de Comunicación de Alemania, Wolfram Weimer, instó a la Comisión Europea a tomar medidas legales, advirtiendo sobre la "industrialización del acoso sexual". Asimismo, la autoridad de protección de datos de Italia afirmó que el uso de herramientas de IA para crear imágenes explícitas de personas sin consentimiento podría constituir graves violaciones de la privacidad y, en algunos casos, delitos penales.
En Francia, ministros del gobierno declararon este mes que habían remitido a la fiscalía el contenido sexualmente explícito generado por Grok que circulaba en X y alertado al regulador francés de medios.