El uso de inteligencia artificial ha abierto un sinnúmero de herramientas para distintos medios. Uno de los más emocionantes son las voces generadas por IA que prometen ser un salto en la creación de contenido. Sin embargo, con cada avance tecnológico siempre hay quienes están dispuestos a tomar estas herramientas para darles un uso indebido e incluso, peligroso.

Esto es lo que le sucedió a la empresa ElevenLabs y a su herramienta que genera voces a partir de inteligencia artificial. En un comunicado emitido este lunes, informaron que están al tanto de usos indebidos de su tecnología y que están dispuestos a tomar acciones en contra de los responsables a quienes ya han identificado.

Para quienes ya un tiempo en internet, 4Chan no debe ser un desconocido. Este polémico foro de internet ha sido responsable de múltiples eventos de lo más variados y esta vez no es la excepción. De acuerdo con ElevenLabs, usuarios de este sitio web habrían aprovechado su tecnología para recrear con voces de celebridades mensajes racistas y antisemitas que luego han publicado en internet.

Entre las voces utilizadas se encuentran registros de la actriz Emma Watson, el presentador Joe Rogan y el escritor Ben Shapiro. En cada caso, se utilizaron registros de voz de las personas para entrenar a la IA que luego pudo replicar frases a solicitud de los usuarios, dando como resultado audios con declaraciones falsas que suenan reales.

Crazy weekend – thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!

— ElevenLabs (@elevenlabsio) January 30, 2023

Al respecto, ElevenLabs compartió este lunes una serie de pasos que llevarán a cabo para salvaguardar su tecnología. Entre estos se encuentra un sistema de registro de usuarios más estricto, además como filtros de seguridad para el texto que provean los usuarios. Estos cambios llegarán durante los próximos días.

Quizá te interese:

• Capcom rompe récord de ventas en 2022
• Pez filtra datos bancarios de streamer en YouTube