Un aumento en la creación y difusión de pornografía falsa creada con inteligencia artificial ha llevado al incremento del acoso en los colegios de Estados Unidos. Los llamados “deepfakes”, que son videos, imágenes o audios generados que imitan la apariencia y el sonido de una persona, se han vuelto cada vez más realistas gracias a la inteligencia artificial (IA).

El impacto de esta nueva forma de acoso se hizo evidente cuando Ellis, una adolescente de 14 años de Texas, despertó una mañana de octubre y descubrió que imágenes falsas y comprometedoras de ella estaban circulando en las redes sociales. Estas fotos alteradas, que superponían su rostro real en cuerpos desnudos ficticios, fueron enviadas a sus compañeros de clase, quienes no pudieron distinguir que se trataba de una falsificación.

Ellis y su amiga no fueron las únicas víctimas. Las imágenes originales, tomadas de sus perfiles de Instagram, también fueron utilizadas para crear deepfakes de otras compañeras de clase, las cuales se compartieron a través de la popular aplicación Snapchat. Según Ellis, estas imágenes parecían tan reales que generaron un profundo temor y angustia en las afectadas.

¿Qué hace la ley al respecto y cómo se puede prevenir el acoso?

Lamentablemente, estas situaciones se están convirtiendo en una tendencia preocupante en los colegios de todo el país. Las autoridades están luchando por responder a esta problemática, ya que no existe una legislación federal que prohíba la práctica de pornografía deepfake. La falta de una respuesta legal contundente agrava la situación y aumenta el sufrimiento de las víctimas.

Los impactos emocionales y psicológicos en las víctimas y sus familias son desgarradores. Anna McAdams, madre de Ellis, relató el profundo trauma que experimentó su hija, quien se sintió humillada y avergonzada por las imágenes falsas que circulaban. Otra madre, Dorota Mani, declaró que su hija de 14 años también fue víctima de esta práctica y advirtió que estos incidentes se están volviendo más frecuentes.

Expertos en la materia señalan que la legislación ha tardado en adaptarse a la tecnología, permitiendo que cualquier persona con una foto en redes sociales se convierta en una potencial víctima de pornografía falsa generada con IA. Aunque existen versiones más rudimentarias de este tipo de contenido, especialmente de personas famosas, ahora cualquiera puede ser objetivo de este ciberacoso.

Ante esta problemática, el presidente estadounidense Joe Biden ha tomado medidas para abordar el problema de la IA y la pornografía falsa. En un reciente decreto, instó al gobierno a establecer barreras contra la producción de material de abuso sexual infantil y de imágenes íntimas no consensuadas. Aunque la identificación de los creadores de estas imágenes resulta complicada, se espera que las empresas de inteligencia artificial y las plataformas de redes sociales asuman su responsabilidad en la lucha contra el acoso y la difusión de pornografía falsa.

Te peude interesar: La OIM alerta sobre el aumento de las víctimas en las rutas de migración hacia Europa y América