{"id":3429,"date":"2026-05-06T12:42:00","date_gmt":"2026-05-06T10:42:00","guid":{"rendered":"https:\/\/okdiario.com\/techy\/?p=3429"},"modified":"2026-05-05T12:32:29","modified_gmt":"2026-05-05T10:32:29","slug":"la-prediccion-de-hawking-sobre-la-ia-que-nadie-quiso-escuchar-y-que-ahora-preocupa-a-los-gobiernos","status":"publish","type":"post","link":"https:\/\/okdiario.com\/techy\/la-prediccion-de-hawking-sobre-la-ia-que-nadie-quiso-escuchar-y-que-ahora-preocupa-a-los-gobiernos\/3429\/","title":{"rendered":"La predicci\u00f3n de Hawking sobre la IA que nadie quiso escuchar y que ahora preocupa a los gobiernos"},"content":{"rendered":"\n

En diciembre de 2014, Stephen Hawking dej\u00f3 una frase que todav\u00eda se cita cuando se habla de inteligencia<\/a> artificial avanzada. Dijo \u00abThe development of full artificial intelligence could spell the end of the human race\u00bb. La pregunta era simple y muy inc\u00f3moda, qu\u00e9 pasa si una m\u00e1quina aprende a mejorar su propia inteligencia.<\/p>\n\n\n\n

No hablaba de un robot con cara humana, sino de sistemas capaces de aprender y tomar decisiones cada vez m\u00e1s complejas sin supervisi\u00f3n constante. Su idea era inc\u00f3moda porque no depende de un villano, basta con que una m\u00e1quina muy lista persiga un objetivo mal definido. \u00bfY si, simplemente, se nos va de las manos?<\/p>\n\n\n\n

Qu\u00e9 es una \u00abIA completa\u00bb<\/h2>\n\n\n\n

Hoy la mayor\u00eda de la IA que usas en el m\u00f3vil<\/a> hace una cosa concreta, como traducir una frase o recomendar v\u00eddeos. Una \u00abIA completa\u00bb ser\u00eda otra liga, un sistema que aprende casi cualquier tarea intelectual y luego salta a la siguiente sin empezar de cero. Es como comparar una app de notas con alguien que puede aprender un temario entero.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: ChatGPT confirma que no tiene rival: OpenAI hace oficial su IA m\u00e1s avanzada capaz de planificar y ejecutar tareas complejas de forma aut\u00f3noma<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

En una respuesta p\u00fablica de 2015, Hawking explic\u00f3 que el punto cr\u00edtico llega cuando una IA se vuelve mejor que los humanos dise\u00f1ando IA. A partir de ah\u00ed podr\u00eda mejorar por s\u00ed sola y crecer a un ritmo dif\u00edcil de seguir. A esa escalada se la suele llamar \u00abexplosi\u00f3n de inteligencia\u00bb.<\/p>\n\n\n\n

Por qu\u00e9 le preocupaba el control<\/h2>\n\n\n\n

El 19 de octubre de 2016, en la Universidad de Cambridge<\/a>, Hawking insisti\u00f3 en que el salto pod\u00eda ser enorme. Lo resumi\u00f3 as\u00ed, \u00abThe rise of powerful AI will either be the best or the worst thing ever to happen to humanity\u00bb. Tambi\u00e9n avis\u00f3 de armas aut\u00f3nomas, de sacudidas en la econom\u00eda y de metas que podr\u00edan chocar con las humanas.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Desde que cambi\u00e9 los ajustes de la c\u00e1mara del iPhone mis fotos parece profesionales y deber\u00edas hacerlo antes de que llegue el verano<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Aqu\u00ed entra un concepto menos famoso pero clave, el desajuste de objetivos. Si a un sistema le pides \u00abmaximiza X\u00bb y X no incluye la seguridad humana, puede buscar atajos que nadie esperaba. Por eso se habla de alinear metas, que la m\u00e1quina persiga lo que queremos de verdad y no solo lo que escribimos deprisa en una lista de instrucciones.<\/p>\n\n\n\n

Armas aut\u00f3nomas en el punto de mira<\/h2>\n\n\n\n

El 28 de julio de 2015, Hawking firm\u00f3 una carta abierta presentada en el congreso IJCAI que ped\u00eda frenar el uso ofensivo de armas aut\u00f3nomas. El texto defin\u00eda estas armas como sistemas que seleccionan y atacan objetivos sin intervenci\u00f3n humana directa, y ped\u00eda una prohibici\u00f3n \u00abm\u00e1s all\u00e1 de un control humano significativo\u00bb. La carta lo remataba con una advertencia simple, \u00abStarting a military AI arms race is a bad idea\u00bb. (stopkillerrobots.org)<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Adi\u00f3s a los interioristas caros: la nueva IA de ChatGPT decora tu casa entera con una sola foto<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Lo inquietante no es solo la imagen de ciencia ficci\u00f3n. Es el efecto cadena, herramientas baratas, f\u00e1ciles de copiar y con software que se actualiza como el de una consola. En ese escenario, un fallo no queda en una pantalla, se traduce en da\u00f1o real.<\/p>\n\n\n\n

Trabajo y desigualdad<\/h2>\n\n\n\n

En octubre de 2015, en una sesi\u00f3n de preguntas y respuestas en internet, Hawking tambi\u00e9n aterriz\u00f3 el debate en la vida diaria. Lo dijo as\u00ed, \u00abIf machines produce everything we need, the outcome will depend on how things are distributed\u00bb. Para \u00e9l, la automatizaci\u00f3n pod\u00eda liberar tiempo, pero tambi\u00e9n empujar a mucha gente a la precariedad si la riqueza se concentra.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Steve Jobs lo dej\u00f3 dicho antes de morir: las 10 frases que m\u00e1s est\u00e1n resonando en Silicon Valley en 2026<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

En la pr\u00e1ctica, eso significa que no solo est\u00e1n en riesgo trabajos manuales repetitivos. Tambi\u00e9n tareas de oficina<\/a>, contabilidad b\u00e1sica o atenci\u00f3n al cliente, justo las que sostienen a muchas familias de clase media. A la vez, suelen aparecer nuevos empleos, pero no siempre en los mismos lugares ni con la misma formaci\u00f3n.<\/p>\n\n\n\n

Confianza y cajas negras<\/h2>\n\n\n\n

En Cambridge, el debate no se qued\u00f3 en el futuro lejano. Un texto de octubre de 2016 recordaba que ya hab\u00eda habido una muerte asociada a un coche<\/a> con conducci\u00f3n autom\u00e1tica y planteaba la duda de cu\u00e1nto entendemos un sistema que aprende solo. En \u00e1mbitos de alto riesgo, los investigadores ped\u00edan m\u00e9todos para poder confiar en lo que una m\u00e1quina recomienda.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Pillan a China con las manos en la masa: captan un lanzador de misiles hipers\u00f3nicos DF-27 en una carretera y quiere decir que Pek\u00edn est\u00e1 preparado para todo<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Los expertos llaman \u00abcaja negra\u00bb a un modelo que da respuestas, pero no explica bien el camino que ha seguido. Puede acertar mucho y aun as\u00ed ser dif\u00edcil de revisar, como cuando una calculadora te da un resultado sin ense\u00f1arte las cuentas. La transparencia sirve para detectar sesgos, errores y momentos en los que la m\u00e1quina deber\u00eda parar y pedir ayuda humana.<\/p>\n\n\n\n

El mensaje p\u00f3stumo<\/h2>\n\n\n\n

Parte de estas ideas se reuni\u00f3 en su libro final, Brief Answers to the Big Questions, publicado el 16 de octubre de 2018 en Estados Unidos. La descripci\u00f3n del editor lo presenta como un repaso a grandes retos modernos, incluida la IA, junto a temas como el clima o la guerra nuclear. Tambi\u00e9n recuerda que Hawking fue profesor lucasiano de matem\u00e1ticas en la Universidad de Cambridge y muri\u00f3 en 2018.<\/p>\n\n\n\n

Al final del d\u00eda, su advertencia no era \u00abapaguen los ordenadores\u00bb. Era una invitaci\u00f3n a pensar antes de desplegar sistemas que toman decisiones por nosotros, desde el trabajo hasta la seguridad. La pregunta que dej\u00f3 abierta sigue siendo la misma, qui\u00e9n define los objetivos y qui\u00e9n responde cuando algo sale mal.<\/p>\n\n\n\n

La nota principal se ha publicado en Universidad de Cambridge<\/em><\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

En diciembre de 2014, Stephen Hawking dej\u00f3 una frase que todav\u00eda se cita cuando se habla de inteligencia artificial avanzada. … <\/p>\n

Read more<\/a><\/p>\n","protected":false},"author":7,"featured_media":3430,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-3429","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","resize-featured-image"],"_links":{"self":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/3429","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/comments?post=3429"}],"version-history":[{"count":1,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/3429\/revisions"}],"predecessor-version":[{"id":3431,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/3429\/revisions\/3431"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media\/3430"}],"wp:attachment":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media?parent=3429"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/categories?post=3429"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/tags?post=3429"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}