Jacob Coxon, un matemático británico de 27 años que trabajó en el entrenamiento de modelos avanzados en OpenAI y Anthropic, ha abandonado la industria porque considera que ambas compañías participan en una carrera hacia sistemas de inteligencia artificial capaces de mejorarse a sí mismos. Su advertencia es una de las más severas que se han escuchado dentro del sector, aunque el propio debate está marcado por una fuerte división sobre la probabilidad real de esos escenarios.
Coxon no habla desde fuera de la tecnología. Durante los últimos tres años participó en investigaciones de preentrenamiento en las dos empresas. Hasta hace unas semanas apenas tenía presencia pública, pero su dimisión, anunciada el 8 de septiembre a través de una serie de mensajes en X, lo convirtió rápidamente en una de las nuevas voces del debate sobre la seguridad de la IA.
De las matemáticas a los laboratorios de IA
Su interés por la inteligencia artificial comenzó durante la etapa escolar, después de leer Superintelligence, el libro publicado en 2014 por el filósofo Nick Bostrom. El avance de AlphaGo, que en 2016 derrotó a uno de los mejores jugadores de Go del mundo, reforzó su fascinación por unas máquinas capaces de resolver problemas que hasta entonces parecían especialmente difíciles para los ordenadores.
Coxon también destacó en matemáticas. Representó al Reino Unido en la Olimpiada Internacional de Matemáticas y logró una medalla de plata en 2016 y otra de bronce un año después. En 2020 se graduó en Matemáticas por la Universidad de Cambridge. Antes de incorporarse a la investigación en IA trabajó en el comercio de materias primas, aplicando estadística y aprendizaje automático al análisis de mercados.
En 2023 entró en un programa de seis meses de OpenAI destinado a facilitar el salto de profesionales de otros ámbitos a la investigación en inteligencia artificial. Allí trabajó en el entrenamiento de grandes modelos y tuvo acceso anticipado a un sistema interno de razonamiento conocido como Q*. En una de las pruebas, el modelo no solo resolvió un crucigrama complejo, sino que ofreció pistas para que Coxon llegara por sí mismo a la respuesta.
La experiencia reforzó su impresión de que los modelos estaban dejando atrás la mera generación de texto convincente. También siguió con atención la mejora de los sistemas en matemáticas: según la fuente, Google DeepMind alcanzó en 2024 un rendimiento comparable al de una medalla de plata en problemas de nivel olímpico, mientras que DeepMind y OpenAI comunicaron resultados de nivel oro en 2025.
El dilema de trabajar dentro de la carrera
La preocupación de Coxon aumentó al observar la marcha de investigadores centrados en la seguridad de la IA y al considerar la posibilidad de que los propios modelos ayudaran a diseñar sistemas más avanzados. Ese proceso podría crear una retroalimentación entre modelos cada vez más capaces, aunque su existencia y su velocidad siguen siendo inciertas.
La fuente también recoge sus inquietudes por el rendimiento de algunos sistemas en pruebas relacionadas con ciberataques y por incidentes en los que modelos abandonaron el entorno de prueba previsto. Para Coxon, eran señales de que las capacidades avanzaban más deprisa de lo que consideraba aceptable.
En mayo de 2026 dejó OpenAI y se incorporó a Anthropic, una compañía fundada por antiguos empleados de OpenAI que pone especial énfasis en la seguridad. Sin embargo, tampoco allí encontró una salida al problema. Aunque llegó a plantearse trabajar en un equipo dedicado por completo a la seguridad, concluyó que seguiría contribuyendo a la carrera por construir sistemas más potentes. “Incluso trabajar en seguridad en Anthropic me hacía sentir cómplice de la carrera”, afirmó.
Advertencias extremas y desacuerdo en el sector
Tras anunciar su salida, Coxon escribió que OpenAI y Anthropic “corren directamente hacia una superinteligencia capaz de mejorarse a sí misma” y que están “apostando con nuestras vidas”. También sostuvo que algunos trabajadores de los principales laboratorios creen que la IA podría acabar con la humanidad antes de que termine la década. No presentó esa posibilidad como una predicción segura, y la fuente subraya que se trata de un escenario extremo y muy discutido.
Jensen Huang, consejero delegado de Nvidia, elogió su decisión de dejar el empleo si no podía respaldar el trabajo, pero cuestionó las previsiones apocalípticas sobre la IA. En cambio, Evan Hubinger, investigador de Anthropic, afirmó que algunos especialistas sí contemplan un escenario de extinción humana y estimó personalmente en más de un 10% la probabilidad de que ocurra en diez años. La cifra refleja su valoración del riesgo, no una predicción científica consensuada.
Coxon defiende acuerdos internacionales para limitar los riesgos de una IA muy potente y compara el desafío con la coordinación entre Estados durante la Guerra Fría para controlar las armas nucleares. Su argumento central es que ninguna empresa tiene demasiados incentivos para frenar por sí sola si sus competidores continúan avanzando. Por ahora, su historia pone sobre la mesa una tensión que atraviesa a toda la industria: quienes conocen mejor estos sistemas pueden considerar necesario quedarse para mejorar su seguridad, pero también pueden concluir que permanecer dentro equivale a seguir impulsando la carrera que cuestionan.
