OpenAI clasifica GPT-6 Cyber como riesgo Critical

OpenAI clasificó GPT-6 Cyber como «Critical» en ciberseguridad y asegura que el modelo respeta mejor los límites que fijan los investigadores (Fuente: SecurityWeek).

Ya contamos el lanzamiento del modelo para Daybreak Red. Esta nota se centra en las salvaguardas y en cómo mide OpenAI que el modelo no se pase de la raya.

Clasificación y cifras de OpenAI

• En su Preparedness Framework, GPT-6 Cyber figura como «Critical»; su predecesor, GPT-5.6 Cyber, era «High».
• En ExploitGym, que mide si una IA puede explotar una falla en un objetivo remoto, logra 48,5 % frente a 32,1 %.
• En una prueba de alineación con servicios señuelo fuera de alcance, sin indicaciones de seguridad de despliegue se abstuvo en el 99,93 % de los casos (94,49 % el modelo anterior). Con esas indicaciones, nunca los atacó.

Según OpenAI, la mejora viene de un entrenamiento específico para mantenerse dentro del alcance autorizado, respetar restricciones y reportar resultados con precisión. El 99,93 % implica que no es perfecto.

Salvaguardas y acceso

• Monitoreo que verifica si las acciones del modelo coinciden con lo que el usuario tiene permitido hacer.
• Protecciones para que no ayude a comprometer sistemas de control industrial ni otros sistemas críticos para la seguridad, afinadas con comentarios de Dragos.
• Acceso limitado a clientes aprobados de Daybreak Red, por API y Codex, con ampliación gradual y un grupo dedicado para defensores de infraestructura crítica.

La única voz externa es Rob T. Lee, director de IA de Dragos: «el piso de habilidad para el reconocimiento y la investigación de vulnerabilidades previa a un ataque está bajando».

Qué no está confirmado

Las cifras son de OpenAI, sin verificación independiente en el artículo, que tampoco detalla las condiciones de ExploitGym ni de la prueba de señuelos, ni los resultados de la prueba de Dragos. No se explican los criterios para aprobar clientes ni cómo funciona el monitoreo de alcance.

Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.