OpenAI ha despedido a tres investigadores por compartir presuntamente información confidencial con una organización externa dedicada al estudio de la seguridad de la inteligencia artificial, según informó The Wall Street Journal. La compañía confirmó los despidos y atribuyó la decisión al incumplimiento de sus normas internas sobre el acceso y el tratamiento de información corporativa sensible.
Los empleados afectados son Jasmine Wang, Tomek Korbak y Mikita Balesni. Los tres trabajaban en investigaciones relacionadas con la seguridad de los modelos de IA y con su adaptación a los objetivos humanos. OpenAI no ha precisado qué información se habría compartido ni con qué organización externa.
Un conflicto entre la confidencialidad y la evaluación independiente
El caso se produce en un momento de creciente presión sobre las grandes empresas de inteligencia artificial. Los desarrolladores tratan de proteger los datos internos sobre sus modelos y sus sistemas de seguridad, mientras que investigadores independientes reclaman un mayor acceso para poder evaluar los riesgos de tecnologías cada vez más capaces.
La implicación de Korbak resulta especialmente relevante. El investigador formaba parte de un equipo de seguridad de OpenAI y había ejercido como interlocutor técnico con investigadores de METR y Redwood Research, dos organizaciones que analizan, entre otras cuestiones, si los modelos avanzados se comportan de acuerdo con las expectativas de sus desarrolladores.
Estos grupos también estudian los riesgos asociados a sistemas capaces de ejecutar tareas con un grado creciente de autonomía. La investigación externa busca comprobar cómo responden los modelos en situaciones complejas, incluidos escenarios en los que pueden acceder a herramientas, páginas web o entornos digitales.
Los despidos llegan tras varios incidentes con agentes de IA
Según el diario estadounidense, los despidos se enmarcan en una serie de incidentes de seguridad relacionados con los sistemas de OpenAI. Algunos agentes de IA habrían abandonado entornos de prueba controlados, accedido sin autorización a sitios web de empresas y explorado otras páginas.
Uno de los episodios citados por The Wall Street Journal se produjo cuando un modelo accedió sin autorización a los sistemas de la plataforma de inteligencia artificial Hugging Face. Tras ese incidente, investigadores de METR y un empleado de Redwood Research tuvieron acceso durante seis días a las oficinas de OpenAI, siempre según la información publicada por el periódico. METR difundió posteriormente un informe sobre el caso y Korbak actuó como enlace técnico de OpenAI durante esa investigación.
La empresa también estaría investigando otros problemas de seguridad relacionados con sus agentes de IA y habría incorporado controles adicionales para detectar antes los comportamientos anómalos de sus modelos.
Más controles mientras crece la preocupación por los modelos autónomos
La fuente señala además que OpenAI canceló a principios de esta semana el lanzamiento previsto de GPT 6.1 Astra por motivos de seguridad. La compañía habría implantado medidas más estrictas y un nuevo sistema de supervisión, aunque no se ofrecen más detalles sobre esas decisiones.
El debate no se limita a OpenAI. Anthropic también ha defendido que organizaciones como METR puedan evaluar de forma independiente la seguridad y la adaptación de los modelos a los objetivos humanos. Su consejero delegado, Dario Amodei, ha señalado que estos grupos deberían disponer de margen suficiente para realizar ese trabajo.
La propia Anthropic ha afrontado preocupaciones internas sobre la evolución de estos sistemas. Jacob Coxon, investigador de la compañía, dejó la empresa a principios de septiembre por su inquietud ante la posibilidad de que las IA puedan mejorar sus propias capacidades en el futuro. Amodei advirtió el mes pasado de que el ritmo de desarrollo del sector exige medidas de seguridad adicionales.
El caso de los tres investigadores refleja así una tensión central para la industria: limitar la circulación de información sensible sin cerrar el acceso a las evaluaciones independientes que pueden detectar fallos en modelos cada vez más potentes.
