Geoffrey Hinton, premio Nobel de Física 2024: «Perder el control sobre una IA más inteligente que nosotros podría provocar la extinción de la humanidad»

Geoffrey Hinton, conocido como el padrino de la inteligencia artificial, ha vuelto a lanzar una advertencia que corrió como la pólvora en medios como CNN y The Times. Sus palabras no deberían tomarse a la ligera: en 2024 recibió el premio Nobel de Física por sus descubrimientos fundacionales sobre redes neuronales artificiales, la base misma de la tecnología que hoy teme.

El investigador británico llevaba meses reduciendo su presencia pública, pero sus últimas declaraciones han vuelto a poner en el centro del debate una pregunta incómoda: ¿Qué ocurre si una inteligencia artificial deja de necesitar a los humanos para conseguir lo que quiere? Su respuesta, esta vez, ha sido más tajante que en ocasiones anteriores.

¿Por qué Geoffrey Hinton cree que la IA podría acabar con la humanidad?

Geoffrey Hinton ha insistido en que el verdadero peligro no está en la inteligencia artificial que ya conocemos, sino en la que todavía está por llegar.

Podríamos asumir entonces que su preocupación central es sencilla de resumir: si una IA se vuelve más inteligente que las personas y estas pierden el control sobre ella, las consecuencias podrían ser irreversibles, incluida la propia desaparición de la especie humana.

En este sentido, el físico explica que cualquier sistema suficientemente inteligente desarrollará, casi por lógica, dos objetivos instrumentales, que son persistir en el tiempo y acumular más control sobre su entorno.

«El modelo correcto es el único que tenemos de un ser menos inteligente controlado por otro más inteligente», ha declarado Hinton, en referencia a que la humanidad nunca ha tenido que gestionar la situación contraria: la de intentar controlar algo más listo que ella misma.

¿Quién es Geoffrey Hinton y por qué se le conoce como «el padrino de la IA»?

Geoffrey Hinton nació en Londres en 1947 y lleva más de cuatro décadas investigando cómo funcionan las redes neuronales artificiales, los sistemas matemáticos que inspiraron gran parte de la inteligencia artificial actual.

En 1986, junto a David Rumelhart y Ronald Williams, popularizó el algoritmo de retropropagación, la técnica que permite a estas redes aprender de sus propios errores y ajustar su comportamiento con cada nuevo dato.

Uno de sus alumnos, Ilya Sutskever, entrenó en 2012 junto a Alex Krizhevsky la red neuronal AlexNet, un hito que redujo a la mitad la tasa de error en el reconocimiento de imágenes y que muchos consideran el pistoletazo de salida del auge actual de la inteligencia artificial.

Por ese legado, Hinton recibió en 2018 el premio Turing (el Nobel de la informática) y, en 2024, el propio Nobel de Física, compartido con John Hopfield.

De empleado de Google a voz crítica: el giro que tuvo Geoffrey Hinton

En mayo de 2023, Geoffrey Hinton dejó su puesto en Google precisamente para poder hablar sin restricciones sobre los riesgos de la tecnología que él mismo ayudó a crear. El motivo, según explicó entonces, era evitar que su relación laboral con la compañía condicionara sus advertencias públicas sobre el rumbo que estaba tomando toda la industria del sector.

Desde entonces, Hinton ha manejado distintas estimaciones sobre el riesgo: en algunas entrevistas ha hablado de una probabilidad de entre el 10% y el 20% de que la inteligencia artificial provoque la extinción humana en los próximos cinco a veinte años.

Y ojo aquí, que no debería ser considerado como una voz aislada, ya que inclusive Bill Gates ha alertado del impacto sobre el empleo, y el investigador Stuart Russell califica el desarrollo actual de la IA como una auténtica ruleta rusa.

La respuesta legislativa que empieza a tomar forma en el Reino Unido

Desde luego, estas advertencias no se limitan al terreno científico y ya empiezan a traducirse en iniciativas concretas.

Por ejemplo, en el Reino Unido, el diputado Alex Sobel presenta ahora en septiembre en el Parlamento una propuesta de ley para prohibir el desarrollo de una superinteligencia artificial hasta que existan controles de seguridad probados y verificables.

Y cabe aclarar que la iniciativa legislativa no promete resultados inmediatos, pero sitúa por primera vez en la agenda parlamentaria británica una idea que hasta hace poco solo circulaba entre científicos: que la carrera por construir una inteligencia artificial cada vez más potente podría necesitar un freno legal.

Por su parte, Naciones Unidas ya reclama un marco de gobernanza internacional antes de que ese freno llegue demasiado tarde.