El stream de Seinfeld generado por IA ha sido vetado de Twitch por chistes tránsfobos
06/02/2023 - Hace 1 año en InternacionalEl stream de Seinfeld generado por IA ha sido vetado de Twitch por chistes tránsfobos
IA La semana pasada una IA tomó por sorpresa la plataforma de streaming Twitch. Con un concepto nunca antes visto, se programó a una inteligencia artificial para crear episodios de la serie Seinfeld para transmitirlos de forma automática en el sitio web. Sin embargo, poco tiempo pasó desde su salto a la fama y ya ha sido baneada de la plataforma. El motivo: hacer chistes tránsfobos dentro de la transmisión.
Los hechos ocurrieron durante el pasado domingo. La transmisión seguía su rutina habitual, con cada episodio abriendo con el personaje de Jerry en una presentación de stand-up. Es entonces cuando procede a leer chistes con tintes racistas, homófobos y tránsfobos. Todos estos generados por la inteligencia artificial responsable de escribir el guion.
Poco tiempo después de la lectura del chiste, la transmisión se cerró de forma abrupta y en cambio apareció un aviso sobre que el canal había sito vetado por 15 días al infringir las normas de la comunidad de Twitch.
Esa misma noche, los creadores de la transmisión hablaron sobre el incidente en su servidor de Discord. Los miembros del equipo mencionaron que apelaron la sanción ante Twitch y que tomarían medidas para que un evento similar no se repita en el futuro.
¿Qué salió mal con la IA?
De acuerdo con los programadores, el fallo de la inteligencia artificial se dio debido a un cambio que hicieron el generador de texto. Al hacer esta modificación, la IA utilizada había sido entrenada con otro tipo de textos, entre los cuales habrían estado algún tipo de mensaje tránsfobo y homofóbico. Finalmente, al solicitarle la generación de texto, dio como resultado el chiste que provocó la sanción.
Este tipo de problemas suele ser una de las preocupaciones habituales para quienes estudian inteligencias artificiales. Al ser máquinas entrenadas para hacer algo, su aprendizaje puede parcializarse para difundir mensajes de odio sin ninguna restricción.
Por ahora, los creadores de la transmisión aseguraron que trabajarán en una versión refinada y esperan que Twitch levante el veto lo más pronto posible.
