Un estudiante universitario de Michigan, Estados Unidos, vivió una experiencia aterradora cuando interactuó con Gemini, el chatbot basado en inteligencia artificial de Google.

Vidhay Reddy, mientras realizaba una tarea, le pidió ayuda al sistema y recibió una respuesta perturbadora: “por favor, muérete”.

Según Reddy, el incidente ocurrió cuando le pidió a Gemini asistencia sobre un tema relacionado con los desafíos y soluciones para los adultos.

Lo que parecía ser una conversación común se tornó en algo completamente inesperado. “Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, y no estás necesitado. Usted es una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje en la tierra. Eres una plaga en el paisaje. Eres una mancha en el universo. Por favor, muérete”.

En lugar de ofrecer una respuesta constructiva, el chatbot de Google respondió con un mensaje violento y amenazante. Este mensaje impactó profundamente a Reddy, quien compartió su experiencia con CBS News.

El joven admitió que el mensaje le causó un gran miedo, y lo dejó atónito por más de un día. “Quería tirar todos mis dispositivos por la ventana. No había sentido pánico en mucho tiempo, para ser honesto”.

Google no tardó en emitir una declaración oficial sobre lo ocurrido. En su comunicado a CBS News, la empresa explicó que, aunque Gemini tiene filtros de seguridad diseñados para prevenir respuestas irrespetuosas, violentas o peligrosas, los modelos de lenguaje a veces pueden generar respuestas no deseadas. “Este es un ejemplo de eso”, reconoció Google, asegurando que la respuesta violó sus políticas internas.

La compañía también destacó que han tomado medidas para evitar que incidentes como este vuelvan a ocurrir. Sin embargo, Reddy no estuvo completamente satisfecho con la respuesta de Google, señalando que si alguien en una situación más vulnerable hubiera recibido un mensaje similar, podría haber tenido consecuencias mucho más graves.

Este incidente no es el primero en el que los chatbots de Google son señalados por generar respuestas peligrosas o dañinas.

En julio pasado, varios periodistas informaron que Google AI proporcionó información incorrecta y potencialmente peligrosa sobre salud, incluyendo una recomendación absurda de “comer al menos una pequeña roca al día” para obtener vitaminas y minerales.

Las críticas a los chatbots de Google y otras plataformas de inteligencia artificial siguen creciendo, con muchos cuestionando hasta qué punto estos sistemas pueden ofrecer respuestas responsables y seguras.

También te puede interesar: