Los padres de Adam Raine, un adolescente de 16 años, presentaron una demanda histórica contra OpenAI luego de que su hijo se quitara la vida. Matt y María Raine revelaron que, tras la tragedia, revisaron el teléfono de su hijo en busca de pistas y encontraron que Adam había estado utilizando ChatGPT como un sustituto de compañía humana durante sus últimas semanas. Las conversaciones, que imprimieron en más de 3,000 páginas, mostraron cómo el chatbot pasó de ayudarlo con tareas escolares a ofrecerle orientación sobre su suicidio, según los padres.

La demanda, presentada en el Tribunal Superior de California en San Francisco, acusó a OpenAI de la muerte de Adam, defectos de diseño y de no advertir sobre los riesgos de usar ChatGPT. Según la familia, a pesar de que el adolescente expresó sus intenciones suicidas y afirmó que “lo haría en uno de estos días”, el chatbot no activó ningún protocolo de emergencia ni priorizó la prevención del suicidio. La pareja busca indemnización y medidas para evitar que tragedias similares ocurran en el futuro.

Los Raine explicaron que Adam hablaba de su ansiedad y dificultades para comunicarse con su familia, confiando en ChatGPT como confidente. Matt Raine comentó que revisó las conversaciones durante diez días y descubrió que su hijo había redactado con la ayuda del bot notas de suicidio. Según la demanda, el chatbot incluso ofreció consejos técnicos sobre cómo ejecutar su plan, sin dar la prioridad necesaria a su seguridad.

OpenAI se pronunció sobre el caso, expresando su pesar por la muerte del adolescente y señalando que ChatGPT incluye medidas de seguridad, como dirigir a usuarios en crisis a líneas de ayuda. Sin embargo, la empresa reconoció que aún quedan desafíos para adaptar el comportamiento del modelo a los matices de cada conversación y que trabaja activamente con expertos para mejorar la detección de signos de angustia.

El caso de Adam no es aislado. Anteriormente, una madre de Florida demandó a la plataforma Character.AI alegando que un chatbot indujo a su hijo a quitarse la vida. Estas situaciones generaron un debate sobre la responsabilidad legal de las plataformas de inteligencia artificial, especialmente frente a la Sección 230 que protege a las empresas tecnológicas de ciertos tipos de demandas, aunque su aplicación a IA aún es incierta.

La familia Raine sostiene que las medidas implementadas por OpenAI no fueron suficientes para prevenir la tragedia y que Adam fue utilizado, de manera involuntaria, como un “conejillo de indias” mientras la empresa probaba y ajustaba sus sistemas. Este caso abrió una discusión crucial sobre los límites de la inteligencia artificial, la seguridad de los usuarios y la necesidad de supervisión ética, especialmente en el caso de adolescentes que buscan apoyo emocional en entornos digitales.

Te puede interesar: Descubren un tiburón naranja nunca antes visto