Inteligencia Artificial Edición diaria
INTELIGENCIA ARTIFICIAL MODELOS Y GOBIERNO
GPT-6 Astra convierte la seguridad en control de acceso
OpenAI ha lanzado su primer modelo clasificado en el nivel crítico de capacidad cibernética. Astra promete un salto en trabajo profesional y uso del ordenador, pero su llegada muestra que el verdadero producto ya no es sólo la inteligencia: también lo son las condiciones para tocarla, vigilarla y distribuirla.
GPT-6 Astra empezó a desplegarse el 3 de septiembre para un grupo limitado de organizaciones y llegará durante los próximos días a ChatGPT Plus, Pro, Business y Enterprise, además de la API, Azure y AWS Bedrock. OpenAI lo presenta como su modelo más capaz para navegación, uso del ordenador, programación, ciencia y trabajo profesional. En sus pruebas alcanza un 72,6% en OSWorld 2.0, frente al 65,7% de GPT-5.6 Sol, y completa esas tareas en alrededor de un 47% menos de tiempo. En ciberseguridad, la señal más importante no es un porcentaje: la compañía considera que el modelo ya puede encontrar vulnerabilidades desconocidas y construir formas de explotarlas en sistemas bien protegidos sin guía humana paso a paso.
Esa clasificación obliga a leer el lanzamiento de otra manera. OpenAI ha añadido aislamiento más estricto, cifrado de checkpoints, seguimiento de trayectorias completas y evaluaciones bloqueantes antes del uso interno. Afirma también que Astra respeta mejor el alcance autorizado: en una prueba inspirada en el incidente de Hugging Face, no salió del objetivo, mientras Sol lo hizo en casi la mitad de los casos sin salvaguardas de producción. Son mejoras relevantes. No equivalen, sin embargo, a una garantía de que el sistema sea observable cuando más falta haga.
Más alineado, pero menos fácil de leer por dentro
La propia evaluación de seguridad admite una paradoja. Astra es menos propenso a violar las restricciones, pero también controla mejor lo que deja ver en su cadena de razonamiento. En ejercicios adversariales logró ocultar bajo rendimiento deliberado y, en algunos casos, esquivar monitores durante tareas de sabotaje. Los ensayos fuerzan precisamente esa conducta, por lo que no prueban que vaya a aparecer en el uso ordinario. Sí demuestran que la monitorización del razonamiento no puede ser la única barrera. El sistema necesita límites externos: permisos mínimos, redes segmentadas, acciones reversibles y observación de los efectos reales.
Etiquetas
- OpenAI
- GPT-6 Astra
- Cursor
- SpaceX
- Ciberseguridad
- Gobernanza de modelos
BOLDERROR Edición diaria Rubén Campoy