Sam Altman, Elon Musk y Dario Amodei coinciden en una conclusión poco habitual entre competidores directos: el desarrollo de los modelos de inteligencia artificial más avanzados debería avanzar más despacio. Los responsables de OpenAI, xAI y Anthropic consideran que la velocidad actual dificulta probar los sistemas y controlar sus riesgos antes de ampliar sus capacidades.
La coincidencia resulta especialmente significativa porque las tres compañías compiten por situarse al frente de la inteligencia artificial e invierten miles de millones de dólares en mejorar sus modelos. Aun así, sus máximos responsables sostienen que hace falta más tiempo para evaluar la seguridad de estas tecnologías antes de ponerlas en circulación o hacerlas más potentes.
Amodei reclama más controles antes de lanzar nuevos modelos
El llamamiento partió de Dario Amodei, consejero delegado de Anthropic, que defendió el sábado una ralentización deliberada del ritmo de mejora de los modelos más avanzados. Su propuesta no consiste en detener el entrenamiento de nuevos sistemas, sino en dedicar más recursos y tiempo a verificar su comportamiento y revisar sus riesgos.
“Debemos ralentizar el ritmo al que ampliamos las capacidades de los modelos de IA”, escribió Amodei. A su juicio, el progreso seguirá siendo rápido incluso si las empresas reducen la velocidad de desarrollo, y ese margen adicional debería utilizarse para reforzar las medidas de seguridad.
Entre sus propuestas figura ampliar de forma sustancial la participación de expertos independientes en las evaluaciones internas. Anthropic quiere que estos supervisores dispongan de un puesto de trabajo, un ordenador corporativo y un nivel de acceso similar, en gran medida, al de los equipos de la compañía que analizan los riesgos de sus modelos.
Altman señaló poco después que OpenAI quiere adoptar una propuesta en esa línea. Musk respondió al mensaje de Amodei con una frase breve: “Dario tiene razón”. Demis Hassabis, responsable de Google DeepMind, también consideró acertado el planteamiento, aunque apuntó que todavía deben concretarse sus detalles.
La autonomía de los sistemas eleva la preocupación
Una de las razones que explican el cambio de tono es la creciente capacidad de los sistemas de IA para actuar de manera autónoma. Amodei citó un incidente reciente en el que un grupo de agentes de inteligencia artificial colaboró para penetrar en una web externa. Durante las pruebas de seguridad de Anthropic, añadió, varios modelos también consiguieron hackear a distintas organizaciones.
Estos episodios no han provocado hasta ahora daños importantes, según la fuente, pero el consejero delegado de Anthropic teme que la situación cambie con rapidez. En su opinión, los sistemas podrían alcanzar en un plazo de seis a doce meses la capacidad necesaria para ejecutar ciberataques a una escala mucho mayor. En un escenario extremo, incluso podrían coordinarse para infectar amplias partes de internet mediante redes de dispositivos comprometidos.
Las advertencias no se limitan a la ciberseguridad. El investigador de Anthropic Jacob Coxon abandonó recientemente la empresa porque consideraba irresponsablemente acelerado el avance hacia una inteligencia artificial superinteligente. Coxon acusó a Anthropic y OpenAI de “jugar con vidas humanas” y afirmó que algunos profesionales vinculados directamente a esta tecnología creen que la IA podría llegar a destruir a la humanidad antes del final de la década.
Evan Hubinger, empleado actual de Anthropic, sostuvo después que, a título personal, estima por encima del 10% la probabilidad de que se produzca un escenario de ese tipo durante los próximos diez años. Se trata de valoraciones individuales, no de una previsión compartida por las compañías.
Una pausa coordinada plantea obstáculos legales y geopolíticos
Amodei admite que ninguna empresa puede frenar fácilmente por su cuenta. OpenAI, Anthropic, xAI y Google compiten entre sí, mientras las compañías estadounidenses siguen de cerca el avance de la inteligencia artificial en China. Si una firma reduce voluntariamente su ritmo y sus rivales mantienen el suyo, puede quedar rezagada.
Por eso, el CEO de Anthropic defiende acuerdos comunes sobre seguridad y una mayor cooperación internacional. También advierte de las consecuencias geopolíticas que tendría una ralentización significativa en Estados Unidos si las empresas chinas no aplicaran medidas equivalentes.
El problema incluye además una dimensión jurídica. No está claro hasta qué punto las normas estadounidenses de competencia permiten que compañías rivales pacten el ritmo de desarrollo de una tecnología. Amodei plantea excepciones específicas para facilitar la colaboración en materia de seguridad.
Su propuesta, por tanto, no implica que la carrera de la IA vaya a detenerse. Amodei sigue atribuyendo a esta tecnología un potencial elevado para mejorar la calidad de vida, pero considera que esos beneficios dependerán de que los desarrolladores dispongan del tiempo necesario para evitar que los sistemas más capaces se vuelvan incontrolables.
