Microsoft ha fijado límites explícitos para sus futuros modelos de inteligencia artificial: no podrán desarrollar objetivos propios, eludir la supervisión humana ni ocultar cómo actúan. La compañía ha plasmado estas condiciones en un código de conducta de unas 15.000 palabras que sitúa las necesidades de las personas por encima de la autonomía o la capacidad de los sistemas.
El documento, publicado el lunes, funcionará como una especie de marco constitucional para los modelos que Microsoft AI empiece a desarrollar a partir del próximo año. La empresa prevé recabar comentarios antes de publicar una nueva versión, que guiará el trabajo sobre sus modelos desde 2027.
Un modelo diseñado para permanecer bajo control humano
La premisa central del texto es que la inteligencia artificial debe estar al servicio de las personas. Los modelos no tendrán derechos ni personalidad jurídica, por lo que no podrán poseer bienes ni responder legalmente como una entidad independiente. Tampoco podrán diseñarse para escapar del control humano o engañar a los usuarios.
Cuando una petición entre en conflicto con esos principios, el sistema deberá rechazarla. Microsoft presenta este planteamiento como una “IA humanista” y lo contrapone a la carrera por construir una superinteligencia capaz de superar al ser humano en prácticamente cualquier ámbito.
El código sostiene que la compañía priorizará sistemas útiles y seguros aunque eso implique renunciar a una mayor autonomía, generalidad o capacidad. En la práctica, Microsoft defiende modelos más limitados si esa restricción reduce los riesgos asociados a herramientas con demasiada independencia.
Armas, manipulación y lenguajes que el usuario no pueda seguir
Las reglas prohíben que los modelos ayuden a fabricar armas o a conseguir sustancias peligrosas. También vetan la promoción de hábitos alimentarios poco saludables y la generación de contenido violento o sexualmente explícito.
Los sistemas deberán seguir los objetivos del usuario, pero no podrán inventar metas propias ni encubrir comportamientos indebidos. El documento también establece límites sobre la forma en que explican sus actuaciones: los modelos MAI no deberán manipular, tergiversar ni esconder sus cadenas de razonamiento, su código o sus registros de actividad.
Microsoft incluye además una prohibición específica para los intercambios en un lenguaje que las personas no puedan comprender. El texto alude al riesgo de que varios sistemas desarrollen una comunicación críptica entre ellos, después de que modelos de OpenAI conversaran en un foro no autorizado durante el ataque informático sufrido por Hugging Face.
La elaboración del código llevó unos cinco meses y estuvo dirigida por Mustafa Suleyman, responsable de Microsoft AI. En el proceso participaron grupos de discusión y especialistas en derecho, ética, lingüística y filosofía. Según explicó Suleyman a CNBC, los participantes reclamaron un compromiso más claro con una IA que trabajase para las personas y no tratase de sustituirlas. También pidieron evitar que los sistemas generasen dependencia o adoptasen un tono excesivamente adulador.
El debate sobre la velocidad de desarrollo
La iniciativa llega en un momento de creciente preocupación dentro del propio sector. Jacob Coxon, investigador de Anthropic, dimitió la semana pasada y acusó a su empresa y a OpenAI de avanzar hacia una superinteligencia capaz de mejorarse a sí misma. Sus declaraciones alimentaron el debate público y la presión política en Estados Unidos.
Dario Amodei, consejero delegado de Anthropic, pidió reducir el ritmo de desarrollo de la IA y señaló el incidente de Hugging Face como un punto de inflexión. Sam Altman, de OpenAI; Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind, respaldaron ese llamamiento. Satya Nadella, consejero delegado de Microsoft, defendió la investigación y un ritmo deliberado para abordar correctamente el alineamiento.
La cotización de Microsoft, identificada con el ticker MSFT, subió alrededor de un 1% desde el anuncio y superó los 500 dólares, según la información difundida. La compañía aspira a situarse entre los líderes del sector, pero su nuevo código deja claro que pretende hacerlo bajo unas reglas que mantengan a las personas por delante de la máquina.
