El gobierno de Joe Biden ha logrado que siete empresas líderes en el desarrollo de inteligencia artificial (IA) se adhieran a un conjunto de medidas de seguridad para garantizar que sus productos sean seguros y responsables. Entre las empresas se encuentran Amazon, Google, Meta, Microsoft, OpenAI, Anthropic e Inflection.

Las medidas de seguridad incluyen la realización de pruebas independientes, el reporte de vulnerabilidades, el uso de marcas de agua digitales para identificar las imágenes generadas por IA y la transparencia sobre los riesgos y los efectos de la tecnología en la sociedad. Estas medidas buscan prevenir los peligros potenciales de la IA generativa, que puede crear textos, imágenes y otros medios falsos o engañosos.

Los compromisos voluntarios son un paso inicial para abordar los riesgos de la IA antes de que el Congreso estadounidense apruebe leyes que regulen la tecnología. Sin embargo, algunos defensores y expertos consideran que se necesita más acción y responsabilidad por parte de las empresas y el gobierno para evitar los abusos y los sesgos de la IA. Asimismo, algunos competidores emergentes temen que las regulaciones favorezcan a las empresas más grandes y consolidadas en el campo de la IA.

Los riesgos y desafíos de la IA generativa

Desde que OpenAI lanzó al público el sistema ChatGPT, científicos, políticos y filósofos, así como organizaciones de defensa de los derechos humanos, han advertido de la amenaza que la IA puede suponer para la humanidad. Entre los riesgos se encuentran la difusión de desinformación, el engaño a las personas, la violación de la privacidad, el sesgo y la discriminación, la ciberseguridad y la bioseguridad.

El martes, los países miembros del Consejo de Seguridad de la ONU destacaron los peligros de una aplicación militar de la inteligencia artificial. En este sentido, el secretario general de la ONU, António Guterres, reiteró que el futuro desarrollo de la inteligencia artificial (IA) debe estar “gobernado” por una entidad dependiente de Naciones Unidas.

Por otro lado, la IA generativa también ofrece oportunidades y beneficios para la sociedad, como la mejora de la educación, la salud, el entretenimiento, la creatividad y la innovación. Algunos ejemplos de aplicaciones positivas de la IA generativa son la creación de contenidos educativos, artísticos y periodísticos, la asistencia a personas con discapacidad o necesidades especiales, la generación de soluciones a problemas complejos y la exploración de nuevos campos del conocimiento.

Las empresas que se han comprometido con las medidas de seguridad de EE.UU. han expresado su intención de desarrollar sistemas de IA que “ayuden a responder a los mayores desafíos” de la humanidad, como el cambio climático, la pobreza, la salud y la paz.

Te puede interesar: Cientos de muertos por el calor extremo en Arizona