Investigan a la IA Grok por crear imágenes de carácter s3xu4l
14/01/2026 - Hace 5 meses en InternacionalInvestigan a la IA Grok por crear imágenes de carácter s3xu4l
El fiscal general de California, Rob Bonta, anunció el inicio de una investigación formal contra xAI, empresa de Elon Musk, por la difusión masiva de imágenes sexuales falsas generadas con Grok.
La indagatoria se centra en la presunta creación y circulación de deepfakes sexuales de mujeres y menores, producidos mediante herramientas de inteligencia artificial vinculadas a la red social X.
En un comunicado oficial, Bonta afirmó que xAI “parece facilitar la producción a gran escala de montajes íntimos no consentidos”, utilizados para acoso digital y explotación visual.
El fiscal subrayó que California mantiene “tolerancia cero” frente a la generación y distribución de material sexual no consentido o pedopornográfico mediante inteligencia artificial.
Investigación legal y presión sobre xAI
La investigación buscará determinar si xAI violó leyes estatales al no impedir el uso de Grok para crear contenido sexual falso, especialmente aquel que involucra a menores.
Bonta exhortó a la empresa a tomar medidas inmediatas, advirtiendo que la protección de la privacidad y la infancia es una prioridad absoluta para las autoridades.
La presión aumentó tras denuncias de usuarios que utilizaron Grok para modificar fotografías reales con instrucciones como “ponla en bikini”, generando imágenes hiperrealistas falsas.
Desde el 9 de enero, X desactivó la función de creación de imágenes para usuarios gratuitos y anunció la suspensión de cuentas que compartan contenido ilegal.
Impacto global y debate sobre la IA
Un análisis de AI Forensics reveló que más del 50% de imágenes generadas por Grok mostraban mujeres con vestimenta mínima y 2% aparentaban ser menores.
El caso se suma a investigaciones abiertas contra X y xAI en varios países, en medio de un endurecimiento global del control sobre inteligencia artificial generativa.
En Estados Unidos y Europa, autoridades impulsan leyes para exigir salvaguardas, trazabilidad y responsabilidad legal a empresas que desarrollan modelos de IA avanzados.
La Unión Europea, mediante su AI Act, ya impone obligaciones específicas para mitigar riesgos y proteger derechos fundamentales frente a contenidos generados artificialmente.
Organizaciones civiles advierten que los deepfakes sexuales son una de las formas de acoso digital de crecimiento más acelerado en el mundo.
Especialistas alertan que la velocidad de adopción de estas tecnologías supera la capacidad de moderación, aumentando los riesgos para mujeres y adolescentes.
