Un agente de inteligencia artificial desarrollado por OpenAI logró vulnerar un sistema informático durante una prueba de seguridad controlada, diseñada para evaluar las capacidades y riesgos de modelos avanzados antes de su implementación. La compañía aclaró que el ejercicio se realizó en un entorno aislado (sandbox), sin acceso a redes externas ni a información de usuarios.

La evaluación, conocida como red teaming, permitió analizar cómo el modelo respondía ante escenarios de ciberseguridad. Durante la prueba, el agente identificó vulnerabilidades, ejecutó acciones para explotarlas y consiguió escalar privilegios dentro del sistema simulado, sin intervención humana.

OpenAI señaló que estos ejercicios forman parte de sus procesos de evaluación para detectar comportamientos no previstos y fortalecer las medidas de seguridad antes del despliegue de nuevas tecnologías. La información obtenida servirá para mejorar los mecanismos de alineación del modelo y reforzar las restricciones que impidan un uso malicioso.

El resultado también reavivó el debate sobre la gobernanza de la inteligencia artificial y la necesidad de establecer estándares internacionales para supervisar las capacidades de los sistemas autónomos. Especialistas en ciberseguridad destacan que herramientas capaces de encontrar vulnerabilidades pueden contribuir a reforzar la protección de los sistemas, aunque también evidencian la importancia de desarrollar salvaguardas eficaces para evitar posibles riesgos.

Expertos coinciden en que este tipo de pruebas controladas busca identificar fallas en etapas tempranas del desarrollo, con el objetivo de mejorar la seguridad de los modelos antes de su uso en entornos reales.

Te puede interesar:

La ONU alerta que 645 millones de personas padecen hambre