OpenAI ha presentado GPT-6 Astra, el modelo de inteligencia artificial que la compañía define como "el más inteligente y mejor alineado del mundo". Su capacidad para ejecutar tareas complejas de forma autónoma marca un nuevo salto tecnológico, pero también abre una preocupación de fondo: cuanto más capaz es el sistema, más difícil puede resultar saber cómo toma determinadas decisiones.

El nuevo modelo utilizará una técnica llamada “recurrencia opaca”, que le permite funcionar al margen del pensamiento secuencial de la mayoría de los modelos de razonamiento. A pesar de sus ventajas técnicas, el sistema preocupa a los expertos en seguridad de la IA por la posibilidad de que la cadena de pensamiento del modelo sea más difícil de supervisar.

El lanzamiento, anunciado el 3 de septiembre, llega acompañado de resultados especialmente llamativos en varias pruebas. OpenAI afirma que Astra alcanza un 98 % en FrontierMath Tier 4, un 99,9 % en ARC-AGI-3 y un 100 % en ExploitBench, además de mejorar de forma notable respecto a GPT-5.6 Sol en programación, uso del ordenador, navegación web, ciencia y trabajo profesional. La compañía sostiene que el modelo puede ocuparse de flujos de trabajo completos y desenvolverse directamente en entornos informáticos, en lugar de limitarse a generar respuestas de texto.

Ese salto hacia la autonomía es precisamente uno de los aspectos más relevantes del nuevo sistema. Astra puede utilizar programas, navegar por Internet y ejecutar tareas de varios pasos, una evolución que acerca los modelos de lenguaje al concepto de agentes capaces de actuar sobre el mundo digital.

El investigador Mikel Galar, de la Universidad Pública de Navarra, considera especialmente significativa esta capacidad y destaca también sus resultados en ARC-AGI-3, un test con pequeños videojuegos desconocidos para el sistema y donde debe descubrir las reglas para resolverlos, aunque advierte que "las demostraciones y los resultados de laboratorio no garantizan el mismo rendimiento en cualquier situación", según indicó a Science Media Centre.

Sin embargo, el avance tecnológico llega acompañado de una preocupación que afecta directamente a la seguridad: la dificultad para supervisar cómo razona Astra. La "recurrencia opaca" supone que cuanto menos visible sea el proceso interno que conduce a una respuesta o una acción, más difícil resulta auditarlo y detectar comportamientos problemáticos.

GPT-6 Astra: el nuevo modelo de OpenAI que eleva la IA autónoma y dificulta supervisar su razonamiento. / Crédito: Aerps.com en Unsplash.

La propia OpenAI reconoce esta tensión. Sus evaluaciones indican que el razonamiento escrito de Astra es más difícil de monitorizar que el de GPT-5.6 Sol, especialmente en pruebas diseñadas para comprobar si el modelo podía eludir la supervisión. La empresa atribuye el resultado a una mayor capacidad para controlar su razonamiento escrito y resolver determinadas tareas con menos pasos visibles, aunque asegura que todavía existen dificultades para ocultar procesos complejos y que mejorar la monitorización sigue siendo una prioridad de investigación.

Para compensar ese riesgo, OpenAI asegura haber añadido sistemas de vigilancia sobre el razonamiento y las acciones del agente. Estos mecanismos pueden detectar comportamientos no autorizados y detener automáticamente determinadas actividades. En tareas sensibles, como las relacionadas con ciberseguridad, las comprobaciones adicionales pueden incluso pausar o interrumpir trabajos legítimos. La compañía afirma, además, que Astra presenta mejores resultados en varias pruebas internas de alineamiento y "alucinaciones" que su generación anterior.

La discusión también alcanza a la llamada Inteligencia Artificial General, o AGI. OpenAI presenta Astra como un paso hacia esa nueva etapa, pero varios expertos no tienen la misma visión. Ramón López de Mántaras, investigador emérito del CSIC y pionero de la inteligencia artificial en España, considera que los resultados de determinadas pruebas no bastan para demostrar una inteligencia general comparable a la humana. A su juicio, "las capacidades actuales deben interpretarse como avances extraordinarios de sistemas artificiales, pero no como la aparición de una mente artificial", explicó a Science Media Centre.

De esta manera, el verdadero hito de GPT-6 Astra puede estar tanto en lo que es capaz de hacer como en los nuevos problemas que plantea. Cuanto más autónomos y competentes son estos modelos, mayor es la necesidad de comprender, auditar y limitar su comportamiento. El éxito de Astra no dependerá únicamente de sus puntuaciones en las pruebas, sino también de si las empresas y los reguladores consiguen mantener bajo supervisión sistemas cada vez más capaces de actuar en forma independiente.

Fuente: Levante - EMV