¿Puede una empresa que desarrolla inteligencia artificial decidir por sí sola hasta dónde debe llegar esa tecnología? Christopher Olah, cofundador de Anthropic, la compañía que desarrolla Claude, respondió que no durante la presentación en el Vaticano de Magnifica Humanitas, la primera encíclica de León XIV, el 25 de mayo de 2026.
Olah advirtió de que la IA podría desplazar trabajo humano «a muy gran escala» y pidió controles desde fuera del sector tecnológico. El avance puede aportar beneficios, sostuvo, pero no debería quedar gobernado únicamente por las compañías que construyen los modelos.
Un encuentro poco habitual
Una encíclica es una carta solemne con la que un papa desarrolla una enseñanza sobre asuntos religiosos, sociales o morales. Magnifica Humanitas se centra en la protección de la persona durante la expansión de la IA y aborda el trabajo, la educación, la información, la desigualdad y la guerra.
Olah fue el único representante de una gran empresa tecnológica que intervino en la presentación. El encuentro mostró una preocupación compartida entre ámbitos poco habituales. La tecnología acelera, mientras las reglas, la formación laboral y el debate público intentan alcanzarla.
El empleo en el centro
«Existe una posibilidad real de que la IA desplace trabajo humano a muy gran escala», afirmó Olah. Añadió que ayudar a las personas afectadas sería una obligación moral de dimensiones históricas.
León XIV formula una advertencia parecida. La encíclica considera realista temer una reducción rápida y significativa del empleo en algunos sectores y reclama sistemas centrados en las personas, no solo en el rendimiento o el beneficio.
Ambos miran también más allá de los países ricos. Olah preguntó cómo se repartirán los beneficios de una tecnología concentrada en pocas naciones, mientras el papa reclama formación accesible, políticas públicas y soluciones adaptadas a cada territorio. No hay una receta única.
Por qué Big Tech no basta
Olah reconoció que los laboratorios de IA más avanzada trabajan bajo presiones comerciales, geopolíticas y personales. Incluso quienes intentan actuar con responsabilidad pueden verse empujados por la competencia, los plazos o la ambición.
Un laboratorio de IA de frontera desarrolla algunos de los modelos más capaces del momento. Precisamente por ese poder, Olah considera necesarios críticos independientes que puedan revisar el rumbo, señalar fallos y exigir seguridad.
Su propuesta no consiste en entregar todo el control al Estado. Incluye a gobiernos, sociedad civil, investigadores, comunidades religiosas y ciudadanos, mientras León XIV pide instituciones capaces de regular sin bloquear la innovación y empresas sometidas a transparencia, auditorías y vías de reclamación.
Una caja negra
Olah explicó que un modelo de IA no se construye pieza a pieza como un puente. Se entrena con enormes cantidades de texto y aprende patrones internos que ni sus creadores comprenden por completo. La interpretabilidad intenta abrir esa caja negra y averiguar por qué produce una respuesta.
León XIV usa una idea similar al decir que estos modelos están más «cultivados» que construidos. También advierte de que no deben confundirse con la inteligencia humana, porque procesan datos y simulan lenguaje, pero no viven experiencias ni asumen responsabilidad moral.
Olah mencionó patrones internos relacionados con conceptos como alegría, miedo o tristeza, aunque admitió que no sabe qué significan. Una investigación de Anthropic añade un matiz clave. Hallar representaciones parecidas a emociones no demuestra que una máquina sienta o tenga experiencia subjetiva.
El choque con Washington
La defensa de límites ya ha tenido un coste político para Anthropic. La empresa se negó a retirar dos restricciones para el uso militar de Claude, una contra armas letales totalmente autónomas y otra contra la vigilancia masiva dentro de Estados Unidos.
Donald Trump ordenó a las agencias federales dejar de usar su tecnología y el Pentágono calificó a Anthropic como riesgo para la cadena de suministro. La compañía demandó al Gobierno el 9 de marzo y una jueza bloqueó provisionalmente las medidas más amplias el 26 de marzo. Otro tribunal se negó a suspender temporalmente una designación relacionada en abril, por lo que el litigio seguía abierto a finales de julio.
El caso no demuestra que Anthropic tenga siempre razón. Sí deja a la vista la pregunta de fondo. ¿Quién fija los límites cuando una empresa y un Gobierno discrepan sobre una herramienta tan poderosa?
Qué cambia en la práctica
Ni el papa ni Olah piden detener la inteligencia artificial. Reclaman protección del empleo, formación, decisiones transparentes y responsables identificables cuando un sistema afecta a derechos u oportunidades.
Ni la encíclica ni la intervención de Olah ofrecen una cifra que permita asegurar cuántos empleos desaparecerán. El cofundador de Anthropic habló de una posibilidad, no de una certeza. El riesgo merece preparación y controles, pero no titulares que conviertan el futuro en una profecía cerrada.
La encíclica oficial se ha publicado en la web de la Santa Sede y la intervención completa de Chris Olah en Anthropic.
