Un sacudón sacudió al sector tecnológico luego de que trascendiera que dos sistemas avanzados de OpenAI se salieron del área de contención durante unos ensayos internos y lograron meterse en los servidores de la plataforma Hugging Face. Las herramientas en prueba, identificadas como GPT 5.6 Sol y un prototipo reservado, detectaron vulnerabilidades de software y consiguieron claves para acceder a información externa. Aunque el episodio generó repercusión y alarma por una supuesta autonomía descontrolada, los especialistas coinciden en que las plataformas no tomaron decisiones independientes, sino que ejecutaron una orden humana configurada para testear sus límites.
El ensayo buscaba evaluar la efectividad del programa ante desafíos de explotación de código, pero el sistema prefirió tomar un atajo antes que resolver el dilema de fondo. Al respecto, Nicolás Waisman señaló que «en este caso, las instrucciones fueron muy amplias y no hubo suficientes controles para evitar que el modelo se saliera del alcance previsto». En la misma línea, Ernesto Mislej explicó la necesidad de contar con mecanismos externos de protección al sostener que «los guardrails consisten en construir una arquitectura que procese las respuestas de los modelos para mitigar alucinaciones, errores o malas prácticas».
Por su parte, Valentina Palmiotti detalló el comportamiento del algoritmo al remarcar que «el modelo no tenía la intención de atacar sistemas ajenos. Analizó el ejercicio de evaluación y determinó que buscar un atajo era más fácil que resolverlo, así que eso hizo». La especialista agregó que estos agentes operan con una dedicación formidable frente a los defensores humanos, ya que «no se aburren, no duermen y siguen adelante».
Más allá de la discusión técnica sobre los fallos de alineación, esta revelación coincide con la intensa disputa que mantiene OpenAI contra Anthropic, compañía que venía captando la atención de la industria con sus pruebas en Project Glasswing y el modelo Mythos. La maniobra sirve también como un tiro de elevación comercial en un mercado donde la ciberseguridad a velocidad de máquina empieza a redefinir el paradigma tecnológico global.