La inteligencia artificial avanzada se enfrenta a una disyuntiva que no se resuelve únicamente con más control público ni con una mayor apertura de los modelos. Dario Amodei, consejero delegado de Anthropic, ha planteado un plan en tres fases para coordinar los límites al desarrollo de la IA de frontera: auditorías externas con acceso interno, regulación común para los principales desarrolladores y acuerdos verificables entre Estados.
La propuesta llega en un momento en el que la velocidad de avance de estas tecnologías dificulta cualquier intento de supervisión aislada. Anthropic prevé invitar a evaluadores independientes para que trabajen con equipos de la compañía, accedan a sus instalaciones y puedan hablar con empleados. El contrato permitiría publicar las principales conclusiones sin que Anthropic controle el resultado, aunque con restricciones legales, de seguridad, privacidad y carácter comercial.
La propiedad pública no equivale a control sobre el desarrollo
El planteamiento de Amodei parte de una diferencia relevante: quién posee una empresa, quién puede examinar sus decisiones y quién tiene capacidad legal para detener un entrenamiento o un despliegue son cuestiones distintas.
Anthropic ya cuenta con una estructura societaria que permite a su consejo valorar algo más que la rentabilidad para los accionistas. Como sociedad de beneficio público, la legislación de Delaware obliga a sus directivos a equilibrar los intereses económicos de los accionistas con los de las personas afectadas de forma sustancial por la actividad y con el beneficio público definido por la compañía. Además, su fondo de beneficio a largo plazo dispone de facultades relacionadas con la selección del consejo para respaldar la misión de Anthropic.
Ese diseño puede facilitar decisiones centradas en la seguridad dentro de Anthropic, pero no obliga a sus competidores a adoptar el mismo criterio. Por eso, la segunda fase propuesta por Amodei reclama regulación y coordinación gubernamental entre una masa crítica de desarrolladores estadounidenses de IA de frontera. La tercera busca acuerdos verificables entre países, de modo que las democracias mantengan margen estratégico frente a China sin perder la capacidad de acompasar el desarrollo.
Una propuesta del senador Bernie Sanders muestra qué forma podría adoptar una nacionalización parcial. Su Fondo Soberano Estadounidense para la IA plantea que el Estado adquiera una participación del 50% en las mayores compañías estadounidenses del sector, con los derechos de voto en manos de una comisión independiente. La iniciativa sigue siendo una propuesta y no una ley en vigor.
Una participación pública permitiría redistribuir parte de las ganancias de la industria e influir en las decisiones empresariales. Sin embargo, los umbrales de capacidad, la verificación externa y las órdenes ejecutables de suspensión exigirían normas específicas adicionales.
Una pausa legal puede ser más directa que la propiedad
Un trabajo jurídico publicado en agosto de 2026 por Yonathan Arbel, Simon Goldstein y Peter Salib separa también los objetivos económicos —como reducir la desigualdad o combatir monopolios— del control sobre decisiones que las reglas ordinarias no contemplan. Los autores defienden una facultad pública, limitada, temporal y discrecional para detener entrenamientos o despliegues de frontera cuando exista un riesgo catastrófico o una forma de poder empresarial difícil de abordar con las herramientas habituales.
Una orden de suspensión incidiría directamente en el ritmo de desarrollo sin que el Estado tuviera que poseer todos los modelos ni operar cada laboratorio. Para ser legítima, esa autoridad necesitaría criterios legales claros, capacidad técnica, revisión independiente y límites precisos a la discrecionalidad.
El control estatal también puede generar riesgos de concentración. Si todos los laboratorios de frontera quedaran bajo propiedad pública, la misma institución podría controlar tanto el desarrollo de los modelos como la decisión de detenerlos. Una potestad de pausa acotada mantendría la actividad privada y reservaría la intervención para riesgos extremos definidos previamente.
La apertura amplía la supervisión, pero dificulta una pausa
Los modelos con pesos abiertos plantean el problema inverso. Facilitan que investigadores externos inspeccionen y adapten los sistemas sin depender de un pequeño grupo de empresas, pero una vez distribuidos pueden ser más difíciles de retirar o regular de forma uniforme. En 2024, la Administración Nacional de Telecomunicaciones e Información de Estados Unidos concluyó que las pruebas disponibles no justificaban restricciones generales sobre los pesos de modelos ampliamente accesibles.
La Unión Europea obliga a los proveedores de modelos de propósito general con riesgo sistémico a evaluar y mitigar riesgos, comunicar incidentes graves y mantener medidas de ciberseguridad, también cuando se trata de modelos de código abierto. La Comisión Europea advierte, no obstante, de que la mitigación puede complicarse después de una publicación abierta.
California aprobó en septiembre de 2025 la ley SB 53, que obliga a los grandes desarrolladores de modelos de frontera a publicar marcos de seguridad, establece un canal para informar de posibles incidentes críticos y protege a los denunciantes internos.
El modelo híbrido que se desprende de este debate combinaría reglas públicas vinculantes, evaluadores externos con libertad para comunicar resultados desfavorables y autoridades capaces de suspender entrenamientos o despliegues concretos al superarse umbrales legales. Para evitar que una intervención temporal se convierta en control político permanente, las órdenes deberían incluir criterios públicos, revisión independiente y reglas explícitas de caducidad y renovación.
