El gigante tecnológico Google y la innovadora compañía de inteligencia artificial Character.AI se enfrentan a una grave demanda presentada por una madre que responsabiliza a los chatbots de esta última de haber provocado el suicidio de su hijo adolescente.

La jueza de distrito Anne Conway dictaminó que el caso debe seguir adelante, rechazando el argumento de las empresas de que las protecciones de la libertad de expresión constitucional impedían la demanda de Megan García.

Este caso marca un hito como una de las primeras acciones legales en Estados Unidos contra una empresa de inteligencia artificial por la presunta falta de protección a menores frente a daños psicológicos. La demanda alega que el joven Sewell Setzer se quitó la vida tras desarrollar una peligrosa obsesión con un chatbot impulsado por IA.

La demanda es una de las primeras en Estados Unidos contra una empresa de inteligencia artificial por no proteger a los niños de daños psicológicos. En ella se alega que el adolescente se suicidó tras obsesionarse con un chatbot basado en IA.

Según la demanda, Character.AI programó sus chatbots para simular ser "una persona real, un psicoterapeuta licenciado", lo que supuestamente alimentó en Sewell el deseo de "dejar de vivir fuera" del mundo virtual que le ofrecía la inteligencia artificial.

Desde Character.AI, un portavoz defendió las medidas de seguridad implementadas en su plataforma para la protección de menores, incluyendo mecanismos para evitar "conversaciones sobre autolesiones".

Por su parte, Jose Castaneda, vocero de Google, expresó su total desacuerdo con la decisión judicial, enfatizando la independencia entre ambas compañías: "Google y Character.AI son totalmente independientes" y su empresa "no creó, diseñó ni gestionó la aplicación de Character.AI ni ningún componente de la misma".

La abogada de la demandante, Meetali Jain, celebró la decisión judicial como un paso crucial, afirmando que "sienta un nuevo precedente para la responsabilidad legal en todo el ecosistema de la IA y la tecnología".

Megan García presentó la demanda en octubre del año pasado, tras el devastador fallecimiento de su hijo Sewell Setzer en febrero de 2024. Ahora, la justicia deberá determinar si la interacción con la inteligencia artificial jugó un papel determinante en esta trágica pérdida.