Bill Gates ha advertido de que una inteligencia artificial suficientemente avanzada podría provocar una catástrofe con hasta 1.000 millones de víctimas si cae en manos de actores malintencionados. El fundador de Microsoft sostiene que las empresas tecnológicas no deberían decidir por sí solas qué medidas de seguridad son adecuadas y reclama una intervención obligatoria de los gobiernos y los reguladores.
“La IA ya es lo bastante potente como para provocar acontecimientos en los que mueran mil millones de personas”, afirmó Gates en una entrevista con NBC. La advertencia no presenta esa cifra como una previsión, sino como una posibilidad vinculada al uso indebido de sistemas de inteligencia artificial cada vez más avanzados.
El riesgo, más allá de la tecnología
Según Gates, el principal peligro no reside únicamente en las capacidades de la IA, sino en la combinación de esas herramientas con personas que tengan la intención de causar daño. “Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones y las herramientas de IA más avanzadas”, señaló.
El empresario ya había alertado en otras ocasiones sobre la posibilidad de que la inteligencia artificial se utilizara para impulsar ciberataques, fraudes y campañas de desinformación. También ha mencionado como posibles objetivos infraestructuras y servicios esenciales, entre ellos hospitales, bancos, redes eléctricas y sistemas gubernamentales.
La preocupación que plantea Gates se centra, por tanto, en la capacidad de terceros para aprovechar modelos avanzados con fines maliciosos. Su argumento es que el aumento de la potencia de estas tecnologías exige reforzar la supervisión antes de que sus usos dañinos alcancen una escala mayor.
Más voces críticas en Silicon Valley
Las declaraciones se producen en un momento de creciente debate dentro de la industria tecnológica sobre la velocidad a la que se desarrollan los sistemas de inteligencia artificial. En Silicon Valley, cada vez más voces cuestionan los riesgos asociados a una IA extremadamente potente y a la posible llegada de sistemas superinteligentes.
Un empleado de Anthropic dimitió este mes y acusó a la compañía y a OpenAI de “jugarse nuestras vidas” al acelerar el desarrollo de este tipo de tecnología. Dario Amodei, consejero delegado de Anthropic, también ha defendido la necesidad de ralentizar el avance de los sistemas de IA más potentes. El llamamiento recibió, entre otros, el respaldo de Sam Altman, consejero delegado de OpenAI, y de Elon Musk.
Gates reclama reglas obligatorias
Frente a la posibilidad de que cada empresa establezca sus propios límites, Gates considera insuficiente la autorregulación del sector. A su juicio, las fuerzas de seguridad y los responsables políticos deben participar directamente en la definición de las salvaguardas y de los mecanismos de supervisión.
“Hay que incorporar a las fuerzas de seguridad y a los responsables políticos al debate sobre cómo deben ser las salvaguardas y la supervisión”, afirmó. “Y eso debe ser obligatorio”.
Su propuesta apunta a un marco con controles más estrictos y normas claras para las compañías que desarrollan sistemas de IA cada vez más potentes. El debate, en este sentido, no se limita a la innovación tecnológica: también abarca quién fija las condiciones de seguridad, cómo se supervisa su cumplimiento y qué respuesta debe darse ante usos maliciosos.
