{"id":5176,"date":"2026-08-08T08:01:00","date_gmt":"2026-08-08T06:01:00","guid":{"rendered":"https:\/\/okdiario.com\/techy\/?p=5176"},"modified":"2026-08-07T12:26:53","modified_gmt":"2026-08-07T10:26:53","slug":"el-cofundador-de-anthropic-y-el-papa-leon-xiv-coinciden-sobre-el-avance-de-la-inteligencia-artificial-es-aterrador","status":"publish","type":"post","link":"https:\/\/okdiario.com\/techy\/el-cofundador-de-anthropic-y-el-papa-leon-xiv-coinciden-sobre-el-avance-de-la-inteligencia-artificial-es-aterrador\/5176\/","title":{"rendered":"El cofundador de Anthropic y el Papa Le\u00f3n XIV coinciden sobre el avance de la inteligencia artificial: \u00abEs aterrador\u00bb"},"content":{"rendered":"\n

\u00bfPuede una empresa que desarrolla inteligencia artificial decidir por s\u00ed sola hasta d\u00f3nde debe llegar esa tecnolog\u00eda? Christopher Olah<\/a>, cofundador de Anthropic, la compa\u00f1\u00eda que desarrolla Claude<\/a>, respondi\u00f3 que no durante la presentaci\u00f3n en el Vaticano de Magnifica Humanitas<\/em>, la primera enc\u00edclica de Le\u00f3n XIV, el 25 de mayo de 2026.<\/p>\n\n\n\n

Olah advirti\u00f3 de que la IA podr\u00eda desplazar trabajo humano \u00aba muy gran escala\u00bb y pidi\u00f3 controles desde fuera del sector tecnol\u00f3gico. El avance puede aportar beneficios, sostuvo, pero no deber\u00eda quedar gobernado \u00fanicamente por las compa\u00f1\u00edas que construyen los modelos.<\/p>\n\n\n\n

Un encuentro poco habitual<\/h2>\n\n\n\n

Una enc\u00edclica es una carta solemne con la que un papa desarrolla una ense\u00f1anza sobre asuntos religiosos, sociales o morales. Magnifica Humanitas<\/em> se centra en la protecci\u00f3n de la persona durante la expansi\u00f3n de la IA y aborda el trabajo, la educaci\u00f3n, la informaci\u00f3n, la desigualdad y la guerra.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Los expertos revelan si tu tel\u00e9fono te escucha y explican qu\u00e9 configuraci\u00f3n debes aplicar para proteger tu privacidad<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Olah fue el \u00fanico representante de una gran empresa tecnol\u00f3gica que intervino en la presentaci\u00f3n. El encuentro mostr\u00f3 una preocupaci\u00f3n compartida entre \u00e1mbitos poco habituales. La tecnolog\u00eda acelera, mientras las reglas, la formaci\u00f3n laboral y el debate p\u00fablico intentan alcanzarla.<\/p>\n\n\n\n

El empleo en el centro<\/h2>\n\n\n\n

\u00abExiste una posibilidad real de que la IA desplace trabajo humano a muy gran escala\u00bb, afirm\u00f3 Olah. A\u00f1adi\u00f3 que ayudar a las personas afectadas ser\u00eda una obligaci\u00f3n moral de dimensiones hist\u00f3ricas.<\/p>\n\n\n\n

Le\u00f3n XIV formula una advertencia parecida. La enc\u00edclica considera realista temer una reducci\u00f3n r\u00e1pida y significativa del empleo<\/a> en algunos sectores y reclama sistemas centrados en las personas, no solo en el rendimiento o el beneficio.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Espa\u00f1a despliega el sistema antidr\u00f3n Aracne, con radar de hasta 15 km de alcance, dentro de un programa de 30,24 millones de euros<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Ambos miran tambi\u00e9n m\u00e1s all\u00e1 de los pa\u00edses ricos. Olah pregunt\u00f3 c\u00f3mo se repartir\u00e1n los beneficios de una tecnolog\u00eda concentrada en pocas naciones, mientras el papa reclama formaci\u00f3n accesible, pol\u00edticas p\u00fablicas y soluciones adaptadas a cada territorio. No hay una receta \u00fanica.<\/p>\n\n\n\n

Por qu\u00e9 Big Tech no basta<\/h2>\n\n\n\n

Olah reconoci\u00f3 que los laboratorios de IA m\u00e1s avanzada trabajan bajo presiones comerciales, geopol\u00edticas y personales. Incluso quienes intentan actuar con responsabilidad pueden verse empujados por la competencia, los plazos o la ambici\u00f3n.<\/p>\n\n\n\n

Un laboratorio de IA de frontera desarrolla algunos de los modelos m\u00e1s capaces del momento. Precisamente por ese poder, Olah considera necesarios cr\u00edticos independientes que puedan revisar el rumbo, se\u00f1alar fallos y exigir seguridad.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Cient\u00edficos del MIT desarrollan un robot con memoria en tiempo real y a largo plazo mediante un sistema de Inteligencia Artificial<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Su propuesta no consiste en entregar todo el control<\/a> al Estado. Incluye a gobiernos, sociedad civil, investigadores, comunidades religiosas y ciudadanos, mientras Le\u00f3n XIV pide instituciones capaces de regular sin bloquear la innovaci\u00f3n y empresas sometidas a transparencia, auditor\u00edas y v\u00edas de reclamaci\u00f3n.<\/p>\n\n\n\n

Una caja negra<\/h2>\n\n\n\n

Olah explic\u00f3 que un modelo de IA no se construye pieza a pieza como un puente. Se entrena con enormes cantidades de texto y aprende patrones internos que ni sus creadores comprenden por completo. La interpretabilidad intenta abrir esa caja negra y averiguar por qu\u00e9 produce una respuesta.<\/p>\n\n\n\n

Le\u00f3n XIV usa una idea similar al decir que estos modelos est\u00e1n m\u00e1s \u00abcultivados\u00bb que construidos. Tambi\u00e9n advierte de que no deben confundirse con la inteligencia humana, porque procesan datos y simulan lenguaje, pero no viven experiencias ni asumen responsabilidad<\/a> moral.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Con un solo misil bajo el ala, el dron ruso Orion ya puede atacar bases y radares a 500 kil\u00f3metros sin poner en riesgo a un piloto<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Olah mencion\u00f3 patrones internos relacionados con conceptos como alegr\u00eda, miedo o tristeza, aunque admiti\u00f3 que no sabe qu\u00e9 significan. Una investigaci\u00f3n de Anthropic a\u00f1ade un matiz clave. Hallar representaciones parecidas a emociones no demuestra que una m\u00e1quina sienta o tenga experiencia subjetiva.<\/p>\n\n\n\n

El choque con Washington<\/h2>\n\n\n\n

La defensa de l\u00edmites ya ha tenido un coste pol\u00edtico para Anthropic. La empresa se neg\u00f3 a retirar dos restricciones para el uso militar<\/a> de Claude, una contra armas letales totalmente aut\u00f3nomas y otra contra la vigilancia masiva dentro de Estados Unidos.<\/p>\n\n\n\n

Donald Trump orden\u00f3 a las agencias federales dejar de usar su tecnolog\u00eda y el Pent\u00e1gono calific\u00f3 a Anthropic como riesgo para la cadena de suministro. La compa\u00f1\u00eda demand\u00f3 al Gobierno el 9 de marzo y una jueza bloque\u00f3 provisionalmente las medidas m\u00e1s amplias el 26 de marzo. Otro tribunal se neg\u00f3 a suspender temporalmente una designaci\u00f3n relacionada en abril, por lo que el litigio segu\u00eda abierto a finales de julio.<\/p>\n\n\n\n

El caso no demuestra que Anthropic tenga siempre raz\u00f3n. S\u00ed deja a la vista la pregunta de fondo. \u00bfQui\u00e9n fija los l\u00edmites cuando una empresa y un Gobierno discrepan sobre una herramienta tan poderosa?<\/p>\n\n\n\n

Qu\u00e9 cambia en la pr\u00e1ctica<\/h2>\n\n\n\n

Ni el papa ni Olah piden detener la inteligencia artificial. Reclaman protecci\u00f3n del empleo, formaci\u00f3n, decisiones transparentes y responsables identificables cuando un sistema afecta a derechos u oportunidades.<\/p>\n\n\n\n

Ni la enc\u00edclica ni la intervenci\u00f3n de Olah ofrecen una cifra que permita asegurar cu\u00e1ntos empleos desaparecer\u00e1n. El cofundador de Anthropic habl\u00f3 de una posibilidad, no de una certeza. El riesgo merece preparaci\u00f3n y controles, pero no titulares que conviertan el futuro en una profec\u00eda cerrada.<\/p>\n\n\n\n

La enc\u00edclica<\/a> oficial se ha publicado en la web de la Santa Sede y la intervenci\u00f3n completa de Chris Olah en Anthropic<\/a><\/em>.<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00bfPuede una empresa que desarrolla inteligencia artificial decidir por s\u00ed sola hasta d\u00f3nde debe llegar esa tecnolog\u00eda? Christopher Olah, cofundador … <\/p>\n

Read more<\/a><\/p>\n","protected":false},"author":8,"featured_media":5177,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-5176","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-informatica","resize-featured-image"],"_links":{"self":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5176","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/comments?post=5176"}],"version-history":[{"count":1,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5176\/revisions"}],"predecessor-version":[{"id":5178,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5176\/revisions\/5178"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media\/5177"}],"wp:attachment":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media?parent=5176"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/categories?post=5176"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/tags?post=5176"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}