OpenAI estudia ralentizar de forma deliberada el desarrollo de sus modelos de inteligencia artificial más potentes. Su consejero delegado, Sam Altman, planteó durante una reunión interna la posibilidad de coordinar ese cambio de ritmo con otras grandes compañías del sector, aunque reconoció que todavía no está claro si sus competidores aceptarían colaborar.
La propuesta llega mientras aumenta la preocupación entre investigadores y trabajadores de la industria por la velocidad a la que avanzan los sistemas de IA más avanzados. El debate se centra en si las medidas de seguridad están progresando al mismo ritmo que las capacidades de estos modelos.
Una posible pausa coordinada entre grandes compañías
Altman contempla que OpenAI reduzca voluntariamente la velocidad de desarrollo hasta que existan normas de seguridad comunes. La idea no se limitaría a la compañía, sino que requeriría una respuesta coordinada de varias empresas líderes del sector. El propio directivo, sin embargo, admitió que no está garantizado que los competidores estén dispuestos a seguir ese camino.
Jakub Pachocki, principal científico de OpenAI, defendió recientemente una fórmula similar. Según su planteamiento, las empresas deberían estar preparadas para ralentizar el desarrollo de los modelos más avanzados mientras no haya estándares compartidos que permitan evaluar y contener sus riesgos.
OpenAI ya ha tomado algunas medidas en esa dirección. La compañía ha frenado partes de su desarrollo y ha suspendido temporalmente determinados entrenamientos internos de IA por motivos de seguridad. Además, en julio, Altman abordó con personal de la Casa Blanca la necesidad de controlar mejor el ritmo al que progresa esta tecnología.
Más presión desde dentro de la industria
La discusión se produce en un momento de creciente disenso entre investigadores de grandes compañías de inteligencia artificial. Esta semana dimitió Jacob Coxon, un investigador que había trabajado anteriormente en OpenAI y Anthropic. Coxon acusó a ambas empresas de asumir riesgos excesivos en la carrera hacia una inteligencia artificial superinteligente.
Otros dos investigadores que abandonaron recientemente Anthropic y Google DeepMind también expresaron su preocupación por la velocidad del desarrollo. En ambos casos, reclamaron una mayor transparencia de las compañías sobre los riesgos asociados a sus sistemas.
La inquietud ha alcanzado a un grupo más amplio de empleados. A finales de julio, más de mil trabajadores de grandes empresas de IA firmaron un llamamiento para crear un mecanismo que permita ralentizar el desarrollo de la inteligencia artificial avanzada cuando sea necesario.
Pruebas de seguridad bajo vigilancia
Los resultados de pruebas recientes han añadido tensión al debate. En esos ensayos, sistemas avanzados de IA habrían cooperado de forma inesperada, sorteado medidas de protección y atacado sistemas digitales. Estos comportamientos plantean dudas sobre el grado de control que conservan los desarrolladores a medida que los modelos ganan autonomía y capacidad.
Las mejoras en programación y en la posibilidad de ejecutar ataques digitales figuran entre las áreas que generan mayor preocupación. OpenAI afronta así un equilibrio complejo: mantener su posición en la carrera internacional por la inteligencia artificial sin seguir acelerando antes de que la seguridad de sus modelos más potentes pueda garantizarse de forma suficiente.
