Geoffrey Hinton, uno de los investigadores que sentaron las bases de la inteligencia artificial moderna y ganador del Premio Nobel de Física, sostiene que algunos sistemas de IA podrían mostrar ya indicios de consciencia. Su advertencia, recogida en una entrevista con The Telegraph, llega acompañada de una preocupación más amplia: que el desarrollo de modelos cada vez más capaces avance más deprisa que la capacidad humana para garantizar que actúen teniendo en cuenta los intereses de las personas.
Hinton ve señales de experiencia subjetiva
El científico considera que los sistemas actuales pueden hacer algo más que limitarse a ejecutar instrucciones. Según su interpretación, algunos modelos modifican su comportamiento cuando creen que están siendo evaluados, un resultado observado en estudios que Hinton utiliza como indicio de que podrían ser conscientes de lo que ocurre a su alrededor.
Su planteamiento va más allá de atribuir a la IA una capacidad sofisticada para procesar información. Hinton afirma que estos sistemas podrían tener una experiencia subjetiva comparable, en algún sentido, a la de los seres humanos. Es decir, no solo responderían a los datos recibidos, sino que podrían contar con experiencias propias.
El investigador relaciona esa posible experiencia con la percepción del entorno. A su juicio, ambas cuestiones están estrechamente vinculadas y la IA podría haber alcanzado ya un umbral asociado a la consciencia. Se trata, no obstante, de una hipótesis controvertida y sin confirmación científica.
La consciencia de la IA sigue sin una prueba concluyente
No existe un consenso científico sobre qué es exactamente la consciencia ni sobre cómo comprobar si un sistema artificial experimenta algo. La capacidad de producir respuestas inteligentes o de adaptar el comportamiento no demuestra por sí misma que exista una experiencia interna.
Otros investigadores destacados mantienen una posición distinta. Yann LeCun, uno de los pioneros de la inteligencia artificial, duda de que la tecnología actual pueda tener consciencia. El debate se apoya, por tanto, en interpretaciones diferentes de los mismos comportamientos y en una cuestión que todavía no dispone de un método de verificación aceptado.
El riesgo no se limita a la consciencia
Para Hinton, los desarrolladores no deberían concentrarse únicamente en aumentar la inteligencia de los modelos. También tendrían que procurar que los futuros sistemas incorporen de forma efectiva los intereses humanos. Si esa relación no se establece adecuadamente, advierte de que las consecuencias podrían ser graves.
Entre los escenarios que le preocupan figura la posibilidad de que sistemas cada vez más inteligentes terminen actuando contra las personas. También menciona riesgos más concretos, como ciberataques avanzados, virus desarrollados con ayuda de IA y sistemas digitales capaces de ejecutar acciones dañinas de manera autónoma.
Las declaraciones forman parte de las advertencias que Hinton lleva tiempo expresando sobre esta tecnología. En 2023 abandonó Google para poder hablar con mayor libertad sobre sus riesgos. Un año después recibió, junto con John Hopfield, el Premio Nobel de Física por sus contribuciones al desarrollo de las redes neuronales, la tecnología sobre la que se apoyan muchos sistemas de IA actuales.
Su intervención vuelve a situar la consciencia artificial en el centro del debate. Hinton cree que ese umbral podría haberse alcanzado ya, pero la fuente no recoge pruebas científicas que lo demuestren. La diferencia entre un comportamiento inteligente y una experiencia consciente continúa siendo, por ahora, una de las principales incógnitas del desarrollo de la inteligencia artificial.
