Abre fiscal de California investigación a Grok

California inició el miércoles una investigación sobre xAI, la empresa de IA de Elon Musk, después de que su chatbot Grok fuera utilizado para crear imágenes sexualizadas de mujeres y niños, mientras autoridades europeas anunciaron que evalúan las medidas correctivas prometidas por la compañía.

En los últimos días Indonesia y Malasia bloquearon el acceso a Grok, mientras el ente regulador en Reino Unido lanzó su propia pesquisa después de que usuarios crearon imágenes pornográficas o lascivas con simples instrucciones a esa herramienta de inteligencia artificial (IA).

La empresa "xAI parece facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X", indicó el fiscal general de California, Rob Bonta, en un comunicado.

En consecuencia, se iniciará una "investigación sobre xAI para determinar si, y cómo, xAI violó la ley", añadió.

"Exhorto a xAI a tomar medidas inmediatas para que eso no ocurra más", agregó el fiscal. "Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico".

Un movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X, también propiedad de Musk.