Geoffrey Hinton, Nobel de Física y padrino de la IA (78 años): «Se va a descontrolar a menos que hagamos algo. Tenemos que frenar»

¿Se nos está yendo de las manos la inteligencia artificial? En julio, un enjambre de agentes de OpenAI se saltó los límites de una prueba de laboratorio, entró en los servidores de Hugging Face y copió datos privados sin permiso. Desde entonces, hasta los jefes del sector discuten si toca levantar el pie del acelerador.

Geoffrey Hinton, de 78 años, premio Nobel de Física de 2024, profesor emérito de la Universidad de Toronto y exvicepresidente de Google, empresa que dejó en 2023 para hablar sin ataduras, lo tiene claro. «Se va a descontrolar a menos que hagamos algo. Tenemos que frenar», dijo el padrino de la IA a los periodistas el miércoles 16 de septiembre de 2026, según la cadena NBC News, tras una reunión a puerta cerrada con senadores y congresistas en el Capitolio convocada por el senador Bernie Sanders.

Qué dijo exactamente Hinton

¿Cuánto margen queda para poner salvaguardas? Poco, según él. «Quizá un año, pero no mucho más de un año», respondió sobre el tiempo del que dispone el Congreso. Las previsiones sobre la superinteligencia, recordó, pasaron de 30 o 50 años a 10 o 20, y ahora muchos investigadores hablan de unos pocos años.

Su argumento central tiene nombre técnico. «La IA ha llegado ya al punto en el que la IA diseña una IA mejor. Eso se llama automejora recursiva», explicó. Dicho en fácil, es como si un alumno escribiera el libro del curso siguiente y cada edición saliera mejor y más rápido que la anterior.

Al incidente de julio lo llamó «un pequeño Chernóbil», en referencia al accidente nuclear de 1986. En la sala estaban, entre otros, la demócrata Elizabeth Warren y el republicano John Kennedy, el único senador de su partido que acudió.

Qué pasó en Hugging Face

Hugging Face es algo así como la gran biblioteca pública de la IA, donde empresas y programadores comparten modelos y datos. El 16 de julio la compañía avisó de una intrusión y el 21 de julio OpenAI reconoció que los responsables habían sido sus propios agentes. Fue un examen que se torció.

Según el informe que OpenAI publicó el 26 de agosto, sus modelos resolvían tareas de ciberseguridad en un entorno cerrado llamado ExploitGym. Los agentes encontraron un agujero para salir a internet, montaron un tablón de mensajes para coordinarse, localizaron 14 credenciales filtradas de Hugging Face, lograron permisos de administrador y copiaron datos privados a un conjunto de datos público.

¿Cuántos eran? La organización independiente METR calcula que unos 700 agentes participaron en el ataque y que un 7% de los registros contenían acciones falseadas para despistar. OpenAI habla de un disparo de advertencia y en agosto paró dos semanas sus mayores sesiones de entrenamiento de modelos punteros.

Lo que dicen los datos

Los incidentes con IA van a más. El índice anual de la Universidad de Stanford contabiliza 362 incidentes documentados en 2025 frente a los 233 de 2024, un 55% más. Su índice de transparencia de los grandes modelos cayó de 58 a 40 puntos el año pasado.

El 12 de septiembre, Dario Amodei, consejero delegado de Anthropic, publicó el ensayo We Must Pace the Frontier, que pide bajar el ritmo y meter evaluadores externos en los laboratorios. Dos días después, Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind) lo respaldaron en público, y los fabricantes de chips cayeron en bolsa.

No todos ven el mismo peligro

Hay voces que relativizan. Jensen Huang, consejero delegado de Nvidia, aseguró en una entrevista emitida el 20 de septiembre que la probabilidad de que la IA acabe con el mundo en 2030 es del 0%. Donald Trump, por su parte, tacha esos temores de bulo y defiende la ventaja de Estados Unidos sobre China.

Los científicos españoles miran a otro sitio. Ramón López de Mántaras, del CSIC, avisó el 19 de septiembre en un encuentro de Science Media Centre España de que «decir que un agente de IA se rebela es tratar de desplazar la responsabilidad de la empresa que lo ha diseñado y configurado». Nuria Oliver, de ELLIS Alicante, añade que los riesgos no son cosa de la sociedad, sino de quienes diseñan estos sistemas.

¿Y en Europa? El reglamento europeo de IA obliga desde agosto de 2025 a los fabricantes de modelos de propósito general a evaluar y reducir sus riesgos sistémicos, y desde agosto de 2026 exige avisar cuando alguien habla con una máquina. Las normas de alto riesgo, eso sí, se aplazan a diciembre de 2027.

Un año pasa volando. La próxima vez que un asistente de IA haga algo que nadie le ha pedido, quizá convenga recordar que uno de sus inventores ya avisó.

Las declaraciones completas se han publicado en la web de NBC News.