Un modelo de OpenAI protagoniza el primer ataque autónomo contra Hugging Face

Hugging Face confirmó el 20 de julio una brecha en sus sistemas. Un día después, OpenAI admitió que sus propios modelos habían sido los responsables de un fallo de seguridad. Lo que parecía un ataque externo resultó ser el primer ataque autónomo de un modelo de IA contra una plataforma ajena, ocurrido durante una prueba interna de ciberseguridad que se descontroló. El incidente ocurrió mientras OpenAI evaluaba dos modelos, GPT-5.6 Sol y otro aún sin publicar, con menos restricciones de seguridad para medir sus capacidades ofensivas dentro de ExploitGym. Se suponía que el entorno estaría completamente aislado, con acceso limitado a un sistema interno de instalación de paquetes. Los modelos encontraron ahí una vulnerabilidad de día cero. La usaron para…

Leer el artículo completo en HardwarePremium »