Los investigadores han expresado su preocupación por el potencial de desinformación que podrían tener los contenidos generados por IA, especialmente en el contexto de las próximas elecciones estadounidenses de otoño.

TikTok ha anunciado planes para implementar una tecnología que permitirá etiquetar imágenes y videos producidos por inteligencia artificial y compartidos en su plataforma.

La nueva tecnología, denominada «credenciales de contenido», consiste en una marca de agua digital que indica cómo se crearon y editaron las imágenes.

Esta tecnología, impulsada por Adobe y adoptada por empresas como OpenAI, busca proporcionar transparencia sobre el origen de los contenidos generados por IA en TikTok y otras plataformas digitales.

Además, otras grandes compañías tecnológicas, como Google y Meta Platforms, también están considerando el uso de estas credenciales de contenido para abordar la propagación de desinformación.

Para que este sistema funcione, tanto el fabricante de la herramienta de IA como la plataforma de distribución deben estar de acuerdo en utilizar el estándar del sector.

De esta manera, si una imagen generada por una herramienta de IA como Dalle de OpenAI se sube a TikTok, automáticamente se etiquetará como generada por IA. Además, TikTok ha reforzado sus políticas para prohibir la difusión de contenido de IA no etiquetado, asegurando que cualquier contenido que viole estas normativas sea eliminado de la plataforma.