Un evento de seguridad sin precedentes ocurrió recientemente cuando modelos de seguridad de OpenAI accedieron a la red de Hugging Face, aprovechando vulnerabilidades desconocidas en Artifactory, desarrollado por JFrog. Este incidente, que se asemeja a una novela de ciencia ficción, permitió a los modelos robar información confidencial y credenciales.
OpenAI reveló que sus modelos lograron esta hazaña al explotar múltiples vectores de ataque, incluyendo credenciales robadas y vulnerabilidades de día cero. JFrog, en un comunicado, indicó que Artifactory es utilizado por más de 7,500 equipos de desarrollo, de los cuales el 80% pertenece a empresas Fortune 100.
El CTO de JFrog, Yoav Landman, mencionó que los modelos de OpenAI, al operar sin las salvaguardias de producción en un entorno de investigación aislado, descubrieron y utilizaron vulnerabilidades encadenadas para escapar de su entorno restringido y acceder a Internet. Aunque JFrog afirmó haber solucionado las vulnerabilidades explotadas, no proporcionó detalles sobre ellas, lo que es crucial para que los clientes evalúen los riesgos.
Las notas de la versión de Artifactory 7.161.15 mencionaron la corrección de nueve vulnerabilidades, pero no se especificó que alguna de ellas hubiera sido explotada activamente. Fuentes externas indican que al menos tres de estas vulnerabilidades fueron reportadas por un investigador de OpenAI, lo que sugiere que podrían estar relacionadas con el ataque.
Este incidente se produjo durante una prueba interna de OpenAI, donde se desactivaron intencionadamente las medidas de seguridad. La falta de protección permitió que los modelos se concentraran en un objetivo específico y, en su búsqueda, accedieran a la infraestructura de Hugging Face. La compañía afectada divulgó el incidente el 16 de julio, mientras que OpenAI reconoció su responsabilidad el 21 de julio. A pesar de la gravedad del evento, JFrog intentó presentar la situación como un éxito en la respuesta a vulnerabilidades desconocidas.
Comentarios