Sam Altman, consejero delegado de OpenAI, considera que la sociedad tendrá que aceptar parte de las consecuencias negativas asociadas al desarrollo de la inteligencia artificial. En una entrevista en el pódcast Decoded, de Politico, defendió que los beneficios de esta tecnología pueden ser muy superiores a sus riesgos, aunque estableció un límite: las situaciones en las que las personas pierdan de forma efectiva el control sobre los sistemas de IA.
Altman descarta una IA sin usos indebidos
El ejecutivo sostuvo que no es realista aspirar a un escenario en el que desaparezcan por completo los fraudes, los usos maliciosos o los grandes ciberataques facilitados por la inteligencia artificial. Según su planteamiento, algunos de estos episodios acabarán produciéndose a medida que la tecnología se extienda y aumenten sus capacidades.
Altman afirmó que no elegiría un futuro en el que se garantizara la ausencia total de esos daños si, a cambio, se renunciara a los beneficios potenciales de la IA. A su juicio, las personas utilizarán estas herramientas con fines beneficiosos con mucha más frecuencia que para causar perjuicios, hasta el punto de que los usos positivos superarán a los negativos por varios órdenes de magnitud.
Esta posición le lleva a defender una regulación relativamente poco restrictiva. El desarrollo y la utilización de la inteligencia artificial, según su enfoque, no deberían limitarse tanto como para impedir que la sociedad aproveche sus posibles ventajas. La cuestión ocupa un lugar central en el debate sobre la tecnología: los modelos son cada vez más potentes, pero también crece la preocupación por su empleo en ciberataques, estafas y otras formas de abuso.
El límite está en perder el control
La defensa de asumir ciertos riesgos no implica, sin embargo, que Altman considere aceptable cualquier escenario. Durante la misma conversación señaló que el límite se encuentra en las situaciones verdaderamente catastróficas, entre ellas una pérdida grave de control sobre la inteligencia artificial.
En ese supuesto, un sistema podría actuar de una forma que impidiera a las personas intervenir de manera eficaz. La entrevista no precisó dónde se sitúa exactamente la frontera entre los daños que la sociedad debería estar dispuesta a asumir y aquellos que resultarían inaceptables.
La distinción adquiere relevancia a medida que los sistemas incorporan más autonomía. El debate ya no se centra únicamente en las respuestas que un asistente conversacional ofrece a un usuario, sino también en qué acciones puede ejecutar por sí mismo y bajo qué condiciones debería permitirse que lo haga.
Responsabilidad para las empresas cuando algo falle
Aunque reclama margen para que la tecnología avance con rapidez, Altman no defiende que las empresas de inteligencia artificial queden al margen de sus responsabilidades. En su opinión, debe existir un marco jurídico que determine con claridad quién responde cuando un sistema causa daños.
El consejero delegado de OpenAI señaló que, si se produce un fallo durante el entrenamiento de sus modelos, debe haber un mecanismo que permita exigir responsabilidades a la compañía. También sostuvo que los responsables de las políticas públicas en Estados Unidos deben continuar debatiendo cómo articular ese sistema.
Su propuesta combina una regulación que no bloquee el desarrollo de la IA con obligaciones claras para las empresas cuando cometan errores. La premisa que trasladó en la entrevista es que la seguridad absoluta no constituye una condición realista para seguir avanzando, pero que determinados riesgos, especialmente los relacionados con la pérdida de control, pueden ser demasiado elevados para aceptarlos.
