Los algoritmos de IA manipulan videos o audios y crean los deepfakes, que pueden hacer que una persona diga o haga algo que nunca dijo o hizo. Los malintencionados pueden usar estas falsificaciones para difamar, extorsionar o engañar a las personas.

Los legisladores de Estados Unidos han expresado su preocupación por el uso de la IA para crear falsificaciones de audio y video, conocidas como deepfakes, que pueden afectar la credibilidad de los políticos y la confianza de los ciudadanos en la democracia.

En una audiencia realizada el miércoles 4 de octubre, el subcomité de comunicaciones y tecnología de la Cámara de Representantes interrogó a los representantes de Meta (antes Facebook) y X (una empresa filial de Alphabet) sobre las medidas que están tomando para detectar y eliminar los deepfakes políticos de sus plataformas.

Los legisladores mostraron ejemplos de deepfakes políticos que han circulado en internet, como el video que muestra al presidente Joe Biden durmiendo durante una entrevista, el video que muestra al expresidente Donald Trump insultando a los mexicanos, o el video que muestra a la congresista Nancy Pelosi borracha.

Alguien creó estos videos con fines humorísticos o satíricos, pero también pueden dañar la reputación y la seguridad de los políticos, así como comprometer la integridad de las elecciones y la información pública.

¿Qué medidas están tomando Meta y X para combatir los deepfakes políticos?

Los representantes de Meta y X afirmaron que están trabajando para desarrollar tecnologías de detección y verificación de deepfakes, así como para establecer políticas y normas para regular su difusión. Sin embargo, reconocieron que se trata de un desafío complejo y en constante evolución, que requiere de la colaboración entre el sector privado, el gobierno y la sociedad civil.

¿Qué piden los legisladores a las empresas de tecnología?

Los legisladores pidieron a las empresas que sean más transparentes y responsables sobre sus acciones y que compartan sus avances e investigaciones con el Congreso y el público. También sugirieron la posibilidad de crear una legislación federal que regule los deepfakes y proteja los derechos y la privacidad de las personas.