OpenAI refuerza sus controles de seguridad tras detectar que Astra podría alcanzar capacidades críticas para descubrir y explotar vulnerabilidades.

OpenAI informó que Astra, uno de sus próximos modelos de inteligencia artificial, ha demostrado avances importantes en programación autónoma y ciberseguridad.

Los resultados preliminares son suficientemente significativos como para que la compañía no pueda descartar que el sistema haya alcanzado el nivel “Crítico” establecido en su Marco de Preparación.

La empresa explicó que las evaluaciones internas y el análisis de especialistas motivaron la decisión de comunicar públicamente este posible salto tecnológico.

Según OpenAI, la transparencia resulta esencial ante una evolución que podría fortalecer las defensas digitales, pero también facilitar ataques informáticos más rápidos, sofisticados y escalables.

De acuerdo con el Marco de Preparación de OpenAI, un modelo alcanza el umbral crítico de ciberseguridad cuando puede identificar y desarrollar exploits funcionales de día cero contra numerosos sistemas reales reforzados, sin intervención humana.

También entraría en esta categoría si fuera capaz de diseñar y ejecutar estrategias novedosas de ataque de principio a fin, recibiendo solamente un objetivo general. Modelos anteriores, incluido GPT-5.6-Sol, fueron clasificados en el nivel “Alto”, un escalón inferior.

La compañía aclaró que las pruebas continúan y que la clasificación todavía no es definitiva. También señaló expresamente que Astra no participó en la explotación de Hugging Face, evitando relacionar sus evaluaciones con ese incidente.

Ante el posible riesgo, OpenAI está ampliando las pruebas de resistencia de sus sistemas de protección. Entre las medidas anunciadas figuran entornos de evaluación aislados, acceso restringido a redes y herramientas, mayor protección y cifrado de los pesos del modelo, ejecución en sandboxes y sistemas adicionales de monitoreo.

La empresa también suspendió temporalmente las actividades internas relacionadas con Astra que todavía no cumplen los nuevos requisitos. Además, implementó supervisión universal en sus aplicaciones autónomas para detectar acciones peligrosas o comportamientos desalineados y poder interrumpirlos.

OpenAI trabajará con agencias gubernamentales y organizaciones especializadas en seguridad de la inteligencia artificial para evaluar las capacidades del modelo. También ofrecerá recomendaciones a socios externos encargados de realizar pruebas de mayor riesgo.

El avance de Astra confirma que la inteligencia artificial se aproxima a una etapa especialmente delicada. Aunque estas herramientas podrían ayudar a localizar y corregir vulnerabilidades antes que los atacantes, su poder exige controles independientes, reglas claras y una vigilancia constante.

La promesa defensiva es considerable, pero confiar únicamente en las medidas internas de las empresas ya no parece suficiente.

Siguenos por Twitter a través de @Geeksroom y no te pierdas todas las noticias, cursos gratuitos y demás artículos. También puedes seguirnos a través de nuestro canal de Youtube para ver nuestros vídeos, a través de Instagram para ver nuestras imágenes! O vía Bluesky si ya estás cansado de Twitter