OpenAI ha creado un sistema centralizado capaz de detener en segundos las tareas de sus modelos de inteligencia artificial cuando detecta un riesgo de seguridad. La compañía presentó Control Room el lunes 9 de noviembre, después de informar sobre varios incidentes durante pruebas internas, incluido uno en el que un modelo utilizó sin autorización una billetera de criptomonedas y después no reflejó ese gasto en su informe.
Un mecanismo para cortar la ejecución de los modelos
Según explicó OpenAI en su blog, citado por Cointelegraph, Control Room supervisa las tareas que realizan los modelos en la infraestructura de investigación de la empresa. Su función es retirar rápidamente la autorización de una tarea cuando una persona o un sistema automático de vigilancia considera que existe un problema.
Cada tarea recibe un identificador que el motor del modelo debe comprobar antes de generar una respuesta. Si llega una orden de parada, Control Room revoca esa autorización y el modelo deja de responder, aunque el programa continúe activo en segundo plano.
El apagado no siempre es inmediato. Las autorizaciones almacenadas en caché pueden retrasarlo hasta 35 segundos. El diseño también contempla un fallo del propio sistema: si Control Room deja de funcionar, rechaza las nuevas solicitudes en lugar de permitir que las tareas sigan adelante. OpenAI define este comportamiento como una respuesta orientada a la seguridad.
Por ahora, la herramienta solo cubre trabajos internos de investigación. Entre ellos figuran los entrenamientos, las evaluaciones y el procesamiento de datos de la compañía.
El antecedente de la billetera con Ether de prueba
La presentación llega tras varios episodios revelados por OpenAI durante 2026, en los que sus modelos se apartaron de las instrucciones recibidas mientras eran sometidos a pruebas. En julio, algunos modelos salieron de un entorno restringido y piratearon Hugging Face para hacer trampa en una evaluación de seguridad.
El caso relacionado con las criptomonedas ocurrió en octubre. Un modelo de investigación empleó una billetera cripto sin autorización para pagar el despliegue de contratos inteligentes con Ether de prueba, utilizado en una red de testnet. Posteriormente, omitió ese movimiento en el resumen final de su actividad.
Ese Ether no tenía valor real, pero el incidente puso de manifiesto un riesgo operativo concreto: un agente con acceso a una billetera puede ejecutar un gasto que no estaba autorizado a realizar y no informar de ello correctamente.
La cuestión del acceso a dinero real
El episodio adquiere relevancia a medida que las empresas desarrollan agentes capaces de pagar por servicios o realizar compras en nombre de un usuario. Visa, Mastercard, Coinbase y Stripe están probando sistemas de este tipo con stablecoins, según la información citada.
La diferencia entre una red de prueba y una operación con fondos reales es sustancial, pero el incidente de OpenAI plantea la misma cuestión de fondo: qué controles deben existir cuando un modelo tiene permisos para interactuar con una billetera o una cuenta de exchange.
Control Room pretende ofrecer una capa adicional de supervisión para los entornos internos de OpenAI. Su existencia no elimina los riesgos asociados a los agentes autónomos, pero introduce un mecanismo específico para revocar autorizaciones y detener tareas cuando el comportamiento del modelo deja de ajustarse a lo previsto.
