¿Es ‘Different Dimension Me’ una inteligencia artificial racista?
05/12/2022 - Hace 1 año en Internacional¿Es ‘Different Dimension Me’ una inteligencia artificial racista?
Inteligencia Artificial La semana pasada se popularizó la inteligencia artificial Different Diemension Me. Esta IA enamoró a los usuarios de redes por su capacidad de convertir una fotografía en una ilustración anime muy bien lograda. Sin embargo, los navegantes más curiosos descubrieron un particular fallo en su programación.
Usuarios en redes comenzaron a compartir sus experimentos con esta IA. Una de las pruebas más populares, era simplemente poner la fotografía de alguna celebridad y ver el resultado. Aunque en principio todo parecía ir bien, pronto se descubrió que la IA tenía un comportamiento particular con las personas afrodescendientes.
Al pasar fotografías de personas con piel oscura, la aplicación inmediatamente las interpretaba como ropa sobre un cuerpo blanco o como si fueran elementos del paisaje, añadiendo un personaje cualquiera en la imagen.
this shit is embarrassing pic.twitter.com/a1r1MYFj7h
— THEO𒀭ʙʀᴏᴍɪɴᴏᴜs (@theobromic_) December 2, 2022
Aunque, en el peor de los casos, la inteligencia artificial directamente reemplazaba a las personas por un animal, frecuentemente un mono o chimpancé. Lamentablemente, estos resultados proliferaron los comentarios racistas en redes, aprovechando el comportamiento del autómata.
fiz um teste tbm pic.twitter.com/Eh8llZV1zH
— miss miojo (@saposlavamope) December 3, 2022
Por otro lado, también hubo rechazo por buena parte de la comunidad, quienes no terminaban de creer que la programación de la IA permitiera resultados de este tipo.
Aunque para el público es desconocido el funcionamiento interno de Different Dimension Me; algunos se aventuraron a especular los motivos de este error.
Los consensos más frecuentes están en la base de datos utilizada para entrenar a la IA. Al tratarse de una máquina que busca replicar el estilo anime, muy probablemente fue alimentada con material de este género, el cual tiene una predominancia de personajes de piel más clara.
Al no reconocer la piel oscura como algo común en las personas, la inteligencia simplemente la reemplaza con otra cosa que sí entienda, como ropa o un árbol.
Para mala suerte, los desarrolladores de la IA no parecen ser conscientes de este fallo y no se espera una actualización que cambie este funcionamiento.
