La IA Lensa desnuda a usuaria sin su consentimiento
13/12/2022 - Hace 2 años en InternacionalLa IA Lensa desnuda a usuaria sin su consentimiento
La IA Lensa se popularizó en los últimos días al ofrecer a los usuarios crear retratos con una calidad impresionante. Su popularidad fue tal, que pronto se convirtió en una de las aplicaciones de iOS más descargadas. Pero, no todo son buenas noticias, ya que una usuaria denunció que la aplicación la desnudó sin su consentimiento al utilizarla.
La escritora de MIT Technology Review, Melissa Heikkilä, compartió su experiencia con esta aplicación. Al enterarse de la IA Lensa, tuvo curiosidad por probarla y ver que podía resultar. Siguió cada uno de los pasos previos, alimentando a la máquina con imágenes suyas y así obtener un retrato.
Sin embargo, el resultado fue muy distinto a lo que esperaba. Como ella misma describe:
«Pero mientras Lensa generaba avatares realistas pero halagadores para ellos [sus compañeros de trabajo] -piense en astronautas, guerreros feroces y fotos de portada geniales para álbumes de música electrónica-, obtuve toneladas de desnudos.»
De acuerdo con Heikkilä, de 100 resultados, 16 contenían imágenes ‘topless’ y 14 la retrataban con poca ropa, con poses demasiado sugerentes o abiertamente sexualizada.
La usuaria consideró, después de un tiempo, que quizá la IA actuó de esa forma debido a los rasgos asiáticos que ella tiene. Con esta hipótesis, decidió llevar a cabo un experimento. Tomó imágenes de personajes femeninos de series y videojuegos con rasgos asiáticos para alimentar a Lensa, quien volvió a arrojar imágenes sexualizadas nuevamente.
Al ser una inteligencia artificial alimentada por humanos, está claro que hay un evidente machismo en su programación. Lo único que no queda claro es si el «fetiche» de la IA se debe a los prompts solicitados por usuarios o es algo inherente de su programación.
Un caso como este abre de nuevo la discusión sobre los límites de la IA y el uso poco ético que se les puede dar sin una regulación.
