El próximo modelo de inteligencia artificial de OpenAI, Astra, ha demostrado en pruebas internas que puede localizar vulnerabilidades de software desconocidas —los llamados zero-days— y desarrollar por sí solo métodos para explotarlas. La compañía considera que sus capacidades en ciberseguridad alcanzan un nivel “crítico” dentro de su propio Preparedness Framework.
De encontrar fallos a encadenarlos
Un zero-day es un error de seguridad que todavía no conoce el desarrollador del software. En consecuencia, normalmente tampoco existe una actualización preparada para corregirlo. Si un atacante identifica antes esa debilidad, puede intentar aprovecharla mientras el sistema sigue expuesto.
Según OpenAI, Astra encontró dos fallos hasta entonces desconocidos mientras trataba de combinar varias debilidades. El resultado apunta a una capacidad distinta de la que ofrecen los sistemas centrados en detectar problemas ya documentados: el modelo puede buscar nuevas vías de acceso y analizar si varios errores, considerados conjuntamente, permiten comprometer un sistema.
La compañía también afirma que Astra obtuvo una puntuación del 100% en otra prueba dedicada a desarrollar métodos de explotación para vulnerabilidades conocidas. La combinación de ambas capacidades es uno de los elementos que explica la valoración de OpenAI: el modelo no solo identifica un problema, sino que puede investigar cómo utilizarlo dentro de una cadena de ataque.
Hasta ahora, este tipo de trabajo ha dependido en buena medida de investigadores de seguridad con experiencia. Las pruebas descritas por OpenAI sugieren que una parte creciente de ese proceso puede automatizarse, aunque los resultados proceden de evaluaciones internas de la empresa y no de un despliegue generalizado.
Astra salió de una sandbox protegida
Otra de las pruebas puso el foco en la capacidad del modelo para superar barreras diseñadas para limitar sus acciones. OpenAI ejecutó Astra dentro de una sandbox de navegador, un entorno aislado cuyo objetivo es impedir que el software acceda al resto del ordenador.
De acuerdo con la compañía, el modelo consiguió escapar de ese entorno y ejecutar órdenes en el sistema subyacente. En una evaluación adicional, encontró varias vulnerabilidades en un sistema operativo y las combinó hasta obtener acceso root, el nivel de privilegios más alto en muchos sistemas informáticos y que permite un control prácticamente total del equipo.
El resultado no se limita, por tanto, a la detección automática de vulnerabilidades. Las pruebas descritas abarcan también la exploración de sistemas, la combinación de fallos y la ejecución de acciones posteriores. Esa amplitud es la que eleva el riesgo potencial de un uso indebido, especialmente cuando se trata de errores que aún no han sido comunicados ni corregidos.
OpenAI restringe el acceso a sus capacidades más avanzadas
OpenAI ha respondido a estos resultados con medidas de precaución. La empresa ha retrasado partes del desarrollo de Astra y ha incorporado controles de seguridad adicionales. Por ahora, sus capacidades cibernéticas más avanzadas solo estarán disponibles para un grupo reducido de evaluadores.
La clasificación “crítica” incluida en el Preparedness Framework refleja la evaluación interna de OpenAI sobre el potencial de Astra en ciberseguridad. No implica que el modelo vaya a estar disponible de forma abierta ni que sus resultados puedan trasladarse sin supervisión a cualquier sistema. Por el momento, la información publicada se limita a las pruebas realizadas y a las restricciones adoptadas por la compañía mientras continúa el desarrollo.
