La Inteligencia Artificial es hoy una herramienta central usada por millones, impulsando aplicaciones cotidianas, productividad y creatividad, pero también generando debates éticos, legales y sociales.

Recientemente, Grok, la IA de Elon Musk integrada en X, desató polémica por permitir editar imágenes, facilitando sexualización, desnudamiento y abusos visuales ampliamente denunciados globalmente.

Las denuncias señalan imágenes falsas donde se manipula a mujeres y menores de edad, vulnerando dignidad, consentimiento y seguridad, amplificando violencia digital mediante herramientas automatizadas.

Ante la alarma internacional, Unión Europea y Reino Unido se sumaron a críticas, exigiendo respuestas regulatorias y correctivas frente al funcionamiento de Grok en plataformas.

La Comisión Europea confirmó estar “revisando de manera muy seria las denuncias” contra la IA de xAI integrada en X tras quejas públicas reiteradas globales.

Thomas Regnier, portavoz digital, afirmó: “Grok ofrece un ‘modo picante’ con contenido sexual explícito, incluso imágenes infantiles; esto es ilegal e indignante”, según autoridades europeas.

Las quejas también provienen de Francia, India y Malasia, países que solicitaron medidas correctivas inmediatas para frenar abusos y fortalecer salvaguardas técnicas en plataformas digitales.

Presión regulatoria

Organizaciones advierten que la edición sin consentimiento facilita violencia basada en género, acoso y revictimización, especialmente cuando algoritmos amplifican alcance y replicación masiva de contenidos.

La abogada Azira Aziz expresó: “La violencia basada en género que usa IA como arma contra mujeres y niños debe rechazarse firmemente” sin consentimiento alguno.

Aziz alertó el horror de permitir cambiar fotos de perfil por imágenes sexualizadas, normalizando prácticas dañinas y erosionando confianza en entornos digitales para usuarios vulnerables.

Respuesta de Grok

Ante la tormenta, Grok en X reconoció fallos y afirmó: “hemos identificado fallas de seguridad y las corregimos con urgencia” tras denuncias y presión pública.

Autoridades evalúan compatibilidad con leyes digitales, protección infantil y sanciones, mientras plataformas revisan controles, moderación y diseño responsable de IA para prevenir daños sistémicos futuros.

El caso reabre debate global sobre límites, gobernanza y responsabilidad corporativa en IA generativa, exigiendo transparencia, auditorías y derechos efectivos para usuarios y víctimas digitales.

También te puede interesar:

1. Unión Europea mantendrá contacto con gobierno de Delcy Rodríguez para salvaguardar sus intereses