Especialistas internacionales alertaron en Durango que sistemas de inteligencia artificial todavía presentan “lagunas peligrosas” en temas de salud mental, al permitir el acceso a información relacionada con conductas autolesivas y suicidio en menores de edad.

Durante la rueda de prensa de “SOS Mentes en Acción: Conversaciones que salvan”, organizada por el Instituto Cognos en coordinación con la diputada local Gaby Vázquez (PAN), el psicólogo español Pedro Martín Barrajón Morán advirtió que plataformas de inteligencia artificial, incluyendo ChatGPT, aún tienen vacíos importantes que pueden representar un riesgo para jóvenes emocionalmente vulnerables.

“Existen lagunas. Hay prompts con los que la IA puede dar información precisa relacionada con conductas autolesivas y suicidio”, señaló.

El especialista explicó que recientemente participó en ejercicios de prueba para analizar la eficacia de controles parentales y restricciones digitales frente a menores que buscan información sobre autolesiones, encontrando importantes fallas en los sistemas actuales.

Incluso, aseguró que en Estados Unidos ya existen denuncias relacionadas con muertes vinculadas a respuestas generadas por inteligencia artificial en temas de salud mental.

“Está todavía por pulir. De momento tiene serias lagunas y es más perjudicial que beneficiosa en cuanto a salud mental y promoción del bienestar emocional”, afirmó.

El tema tomó relevancia internacional luego de que el Papa León XIV dedicara recientemente su primera encíclica a los riesgos éticos de la inteligencia artificial, alertando sobre manipulación emocional, salud mental, desinformación y acceso de menores a contenidos sensibles relacionados con conductas autolesivas y suicidio.

Pedro Martín Barrajón consideró que la inteligencia artificial puede convertirse en una herramienta útil, pero insistió en que nunca debe sustituir la atención profesional en salud mental.

“La inteligencia artificial es una herramienta que complementa a un profesional, nunca un sustituto”, puntualizó.

Por su parte, Pamela Morán, directora del Instituto Cognos, señaló que intentar prohibir completamente el acceso a la tecnología resulta prácticamente imposible, por lo que insistió en la necesidad de acompañamiento familiar, supervisión y educación digital responsable.

“No podemos ir en contra de la tecnología y del avance. Tenemos que aprender a enseñar cómo usarla y estar presentes para darnos cuenta si alguien cercano está pidiendo ayuda”, expresó.

La especialista advirtió que mientras las plataformas tecnológicas y sistemas de inteligencia artificial evolucionan o corrigen sus fallas, la principal herramienta preventiva sigue siendo la presencia activa de padres, docentes y adultos responsables.

En ese mismo sentido, Juan Manuel García “Pincho”, especialista en ciencias del comportamiento y lenguaje corporal, consideró que el reto actual no es eliminar las herramientas digitales, sino aprender a convivir con ellas y utilizarlas de forma responsable.

“Tenemos que aprender a navegar las olas, porque quitarlas va a ser imposible”, comentó.

Asimismo, señaló que parte de los riesgos actuales radican en que muchos adultos tampoco comprenden completamente el funcionamiento de redes sociales, algoritmos y nuevas tecnologías, lo que dificulta acompañar adecuadamente a niños y adolescentes en entornos digitales.

Los especialistas coincidieron en que la salud mental y el uso responsable de tecnología deben abordarse desde la prevención, la educación emocional y la comunicación familiar, especialmente en una etapa donde jóvenes y menores tienen acceso prácticamente ilimitado a redes sociales, inteligencia artificial y plataformas digitales.

Las declaraciones se dieron en el marco de la segunda edición de “SOS Mentes en Acción: Conversaciones que salvan”, evento que se realizará el próximo 28 de mayo en el auditorio de la UJED, con conferencias dirigidas a jóvenes, padres de familia y docentes para enseñar a detectar señales de riesgo y fortalecer la prevención del suicidio.