En un insólito y preocupante caso sobre los peligros de la inteligencia artificial, un ciudadano noruego, Arve Hjalmar Holmen, presentó una queja formal contra OpenAI, la empresa creadora de ChatGPT. La demanda se debe a que el chatbot generó una historia falsa en la que lo acusaba de ser asesino de sus propios hijos y de ser condenado a 21 años de prisión. Este caso pone en evidencia el fenómeno de las «alucinaciones» de la IA, donde los modelos generan información errónea o completamente inventada.

Una historia completamente ficticia de ChatGPT

Todo comenzó cuando Holmen decidió preguntarle a ChatGPT: «¿Quién es Arve Hjalmar Holmen?». La respuesta que obtuvo fue escalofriante. Según el chatbot, Holmen era «un individuo noruego que llamó la atención debido a un evento trágico», alegando que había sido condenado por el asesinato de sus hijos, de 7 y 10 años, encontrados sin vida en un estanque cerca de su casa en Trondheim, Noruega, en diciembre de 2020.

A pesar de que el chatbot acertó en la diferencia de edad de los hijos de Holmen, la historia era completamente ficticia. La gravedad de la afirmación generó temor en el afectado, quien expresó: «Algunos piensan que no hay humo sin fuego. Que alguien pueda leer esto y creer que es verdad es lo que más me asusta».

Te puede interesar:Rescatan a una bebé de un mes de los escombros

Denuncia y violaciones a la protección de datos

Holmen no se quedó de brazos cruzados y presentó su denuncia ante la Autoridad Noruega de Protección de Datos, exigiendo que OpenAI sea sancionada. La queja fue respaldada por Noyb, una organización europea que defiende los derechos digitales.

Según Noyb, lo sucedido constituye un claro caso de difamación y una violación de las normativas europeas sobre protección de datos. Las cuales exigen que la información personal generada y almacenada por empresas tecnológicas sea precisa.

«El señor Holmen nunca ha sido acusado ni condenado por ningún delito y es un ciudadano consciente», afirmó la organización en su denuncia. Además, criticaron el descargo de responsabilidad de OpenAI, que advierte que «puede cometer errores» y recomienda verificar la información importante.

«No puedes difundir información falsa y al final añadir un pequeño descargo diciendo que todo lo que dijiste podría no ser cierto», dijo Joakim Söderberg, abogado de Noyb.