La Organización Mundial de la Salud (OMS) ha emitido nuevas normas y orientaciones éticas para promover y garantizar un uso seguro de los grandes modelos de lenguaje (LMM, por sus siglas en inglés) en el ámbito sanitario. Estos LMM, que son un tipo de IA generativa, procesan masivamente los datos y generan textos y otros contenidos. La IA generativa está en rápido desarrollo.

Los LMM, como la herramienta Chat-GPT, están cada vez más presentes en nuestras vidas y tienen un gran potencial en el campo de la salud, como en el diagnóstico, la investigación de síntomas y tratamientos, el desarrollo de fármacos y la administración sanitaria. Sin embargo, la OMS advierte que algunos de estos usos aún no han sido probados y no se sabe si ofrecerán los beneficios esperados. Por lo tanto, es necesario establecer normas para su integración y uso con fines médicos y de salud pública.

¿Qué riesgos plantean los grandes modelos de lenguaje para los sistemas sanitarios?

La guía de la OMS documenta algunos de los riesgos potenciales para los sistemas sanitarios, como el “sesgo de automatización”, que podría llevar a declaraciones falsas, inexactas, sesgadas o incompletas, perjudicando a quienes utilizan esta información para tomar decisiones sanitarias. Además, los LMM y otras formas de IA también son vulnerables a riesgos de ciberseguridad, lo que podría comprometer la información de los pacientes o la confiabilidad de los algoritmos y la prestación de asistencia médica.

¿Qué medidas propone la OMS para garantizar un uso ético y seguro de los grandes modelos de lenguaje en la salud?

Ante estos desafíos, la OMS propone una participación “vertical e integrada” de todas las partes interesadas, incluyendo gobiernos, empresas tecnológicas, proveedores de atención sanitaria y sociedad civil. A nivel gubernamental, se recomienda invertir en infraestructuras públicas accesibles a los desarrolladores de IA a cambio de adherirse a los principios éticos establecidos. También se aconseja promulgar leyes que aseguren que los LMM cumplen con los derechos humanos, o asignar una agencia reguladora que evalúe el cumplimiento de estas tecnologías antes de su uso.

Según la OMS, los esfuerzos también deben centrarse en un diseño “estructurado, inclusivo y transparente” de los grandes modelos de lenguaje en todas las fases de su desarrollo. Esto implica la participación de ingenieros, científicos, usuarios potenciales y todas las partes interesadas directas e indirectas, incluyendo proveedores de servicios médicos, profesionales de la salud y pacientes. Los desarrolladores deben ser capaces de prever y comprender los posibles efectos secundarios de las IA y diseñarlas de manera precisa y confiable para mejorar la capacidad de los sistemas sanitarios y promover los intereses de los pacientes.

¿Qué beneficios potenciales tiene la inteligencia artificial para la salud?

A pesar de los desafíos que representan los LMM en la actualidad, la OMS reconoce los enormes beneficios potenciales que la IA podría brindar a los sistemas de salud, incluida la mejora de la atención médica y la promoción de la salud pública.

Te puede interesar: Insultó a la familia real y recibió 50 años de cárcel: la pena más alta por faltarle el respeto a la majestad en Tailandia