El gobierno de China acaba de lanzar una propuesta para vigilar de cerca a las Inteligencias Artificiales (IA) que están diseñadas para platicar con los usuarios, simular sentimientos o tener una «personalidad». Lo que buscan es proteger a la gente de los riesgos de encariñarse o volverse adictos a un robot.

¿De qué tratan estas nuevas reglas?

Si una empresa lanza una IA que usa texto, audio o video para interactuar emocionalmente con las personas, ahora tendrá que cumplir con varios puntos:

1. Cero adicciones: Las empresas están obligadas a avisar a la gente que no usen la IA en exceso. Si notan que alguien se está volviendo dependiente o «adicto» al chat, la empresa tiene que intervenir.
2. Detector de emociones: Los sistemas deberán ser capaces de identificar si el usuario está pasando por un momento emocional extremo para actuar y evitar riesgos psicológicos.
3. Seguridad y ética: Las IA no podrán inventar chismes (rumores), promover la violencia ni generar contenido que penga en riesgo la seguridad del país.
4. Protección de datos: Los dueños de estas apps son responsables de cuidar tu información personal y revisar que sus algoritmos funcionen bien durante todo el tiempo que el producto esté a la venta.

¿Por qué lo hacen?

A los expertos les preocupa que, al simular emociones, estas máquinas confundan a los usuarios más jóvenes o vulnerables, haciendo que prefieran hablar con una IA que con personas reales.

Mientras en otros lugares del mundo apenas se está discutiendo el tema, China ya está marcando «líneas rojas» muy claras: la innovación es bienvenida, pero el control estatal y la salud mental de los usuarios van primero.

Te puede interesar:

Detienen a grupo religioso en Rusia por criticar la guerra y apoyar a Zelenski