¿La IA nos va a exterminar? El negocio que hay detrás del apocalipsis de Anthropic

Hay más de un 10% de probabilidades de que la inteligencia artificial extermine a toda la humanidad durante los próximos diez años. A usted, a mí, a nuestros hijos, al último pastor de Mongolia y al último habitante de Sentinel North que en su vida ha oído hablar de Sam Altman. Ocho mil millones de cadáveres, el último capítulo para el Homo sapiens sapiens. Fin.
Al menos esa ha sido la apocalíptica advertencia lanzada por Jacob Coxon, investigador de Anthropic y antes de OpenAI, en un mensaje que ha superado los 150 millones de visualizaciones, probablemente un récord para la plataforma. Evan Hubinger, responsable de Alignment Science de Anthropic, salió inmediatamente a darle la razón y puso una cifra a nuestra posible extinción: más del 10% durante la próxima década. ¡Arrepentíos, el fin está cerca!

El eminente médico británico Augustus Bozzi Granville advirtió de los gravísimos peligros para la salud humana de otra tecnología revolucionaria. Viajar a veinte o treinta millas por hora podía afectar a los pulmones delicados y, en personas predispuestas, provocar una apoplejía. La entrada repentina en la oscuridad de los túneles tampoco parecía saludable, y el aire húmedo de las trincheras ferroviarias podía causar catarros y fiebres. Granville era un médico prestigioso, autor prolífico y miembro de la Royal Society. La tecnología sobre cuyos peligros advertía era el ferrocarril. Corría el año 1835.

¿Un 10%? ¿Por qué no un 20%, o un 8%? ¿De dónde ha sacado Hubinger ese porcentaje probabilístico? Por lo que podemos deducir, justamente de donde está usted pensando. No hay serie histórica, frecuencia observada, experimento reproducible ni fórmula conocida que produzca un 10 al final de la operación. Hay un señor muy inteligente al que le han preguntado cuánto cree que debemos preocuparnos y ha contestado «más del 10%». Pues vale.
Nada de esto demuestra que Hubinger esté equivocado, pero la carga de la prueba recae sobre el profeta, no nos vale con suponer que es muy listo. Geoffrey Hinton, premio Nobel y uno de los padres de la inteligencia artificial moderna, ha reaccionado a la cifra de Hubinger de una manera difícil de mejorar: nadie sabe cómo estimar esa probabilidad, ha dicho, aunque un 10% «no parece una estimación irrazonable». Es difícil resistirse a admirar el procedimiento científico: no sabemos cómo calcular una cifra, pero sabemos reconocer la correcta cuando aparece.

Quizá la pista de lo que pueda haber detrás de este alarmismo nos la dé la secuencia de acontecimientos. La historia comenzó con Coxon, que abandonó Anthropic denunciando que las compañías punteras están corriendo hacia sistemas capaces de contribuir a su propio perfeccionamiento mientras quienes los construyen creen realmente que podrían acabar con todos nosotros antes de terminar la década. Coxon parece tomárselo muy en serio. Dejó la empresa apenas dos meses antes de que consolidase su participación en ella y, por tanto, con dinero sobre la mesa. Tampoco nos consta que Hubinger esté mintiendo, pero podemos hacer notar que su profecía puede resultar enormemente beneficiosa para la empresa en la que trabaja.

Anthropic fabrica la inteligencia artificial sobre cuyos peligros nos está advirtiendo Anthropic. Su modelo Claude compite con ChatGPT, Gemini, Grok y los demás candidatos a convertirse en la capa de inteligencia que medie una parte creciente de nuestra vida económica. En febrero la compañía captó 30.000 millones de dólares y quedó valorada en 380.000 millones. En mayo consiguió otros 65.000 millones y alcanzó una valoración de 965.000 millones. Ahora prepara una posible salida a Bolsa y se han llegado a manejar valoraciones de hasta dos billones de dólares. Dos millones de millones.

¿Qué podría ofrecer Anthropic para que el inversor crea que vale dos billones? Algo más emocionante que «Claude va a optimizar tu Departamento de Marketing». Tiene que creer que estas compañías están construyendo una tecnología capaz de transformar una parte gigantesca de la economía mundial, sustituir trabajo intelectual, programar ordenadores, dirigir procesos industriales y acelerar la investigación científica. Ser el más poderoso en esa tecnología casi mágica. Y si uno cree que los descendientes de Claude son capaces de exterminar la humanidad al completo… Bueno, no se me ocurre mayor prueba de su poder.

Como campaña publicitaria, es oro, aunque pueda parecer contraintuitivo. Durante toda la historia del comercio los fabricantes intentaron convencernos de que sus productos eran seguros. Silicon Valley puede haber descubierto una técnica superior: nuestro producto es tan formidable que existe una posibilidad apreciable de que los mate a usted, a sus hijos y a todos sus descendientes.

Y funciona. Coxon insiste expresamente en que «esto no es una maniobra publicitaria», que es exactamente lo que afirmaría una maniobra publicitaria. Y extraordinariamente eficaz: su mensaje superó los 150 millones de visualizaciones y la frase concreta en la que advertía de que la inteligencia artificial podía «matarnos a todos» fue vista millones de veces. Lo del 10% es una especulación bastante aventurada; el número de visualizaciones del mensaje, no.

Y hay tanto dinero en este juego que las cifras marean al inversor más avezado. Goldman Sachs calcula que la inversión mundial relacionada con la inteligencia artificial superará el billón de dólares este año y que el gasto acumulado en capital relacionado con ella puede rondar los 7,6 billones entre 2026 y 2031. Los gigantes tecnológicos están enterrando fortunas en centros de datos, chips, redes y energía. Nvidia vende las palas durante la fiebre del oro. Microsoft, Alphabet, Amazon, Meta y Oracle construyen las minas. Detrás aparecen los Estados.

Y aquí la economía se complica con la geopolítica, porque no estamos ya solamente ante una guerra entre Anthropic, OpenAI, Google, Meta o xAI. Estados Unidos y China (y otros) ven la IA como la tecnología estratégica que evidentemente es. DeepSeek demostró que los modelos chinos podían acercarse mucho más deprisa de lo esperado a los norteamericanos. La competición tecnológica se ha convertido en una cuestión de poder económico, industrial y militar. De vida o muerte, pero en un sentido distinto al que se refiere Hubinger.

Y la cadena lógica va así: La inteligencia artificial puede acabar con la humanidad, así que debemos desarrollarla antes que China, y como existe una posibilidad apreciable de que la superinteligencia nos mate necesitamos invertir todavía más dinero en alcanzar la superinteligencia. Y nosotros no podemos frenar esta carrera suicida hacia el Armagedón porque los otros nos adelantaría. Y toda esta psicosis de masa desemboca en una fantástica facturación.

El miedo ofrece además una segunda ventaja. Si estamos fabricando una tecnología con más de un 10% de probabilidades de exterminar a ocho mil millones de personas, permitir que cuatro chavales la desarrollen en un garaje sería como dejarle un Kalashnikov cargado a un niño. Necesitamos auditorías, evaluaciones de seguridad, equipos especializados, abogados, departamentos de cumplimiento, interlocución con Washington y enormes barreras técnicas y financieras. Todo lo que daría una ventaja competitiva inmediata a Anthropic, vaya por Dios.

Esta misma primavera Anthropic presentó uno de sus nuevos modelos como demasiado peligroso para ponerlo libremente a disposición del público por sus capacidades en ciberseguridad. La historia recorrió el mundo. Algunos especialistas externos acusaron después a la compañía de exagerar lo que realmente había demostrado. Heidy Khlaaf, especialista en seguridad de sistemas críticos, llegó a preguntarse públicamente si aquella forma de comunicar el peligro podía servir para atraer inversión sin someter las afirmaciones al mismo grado de escrutinio.

Don Drapper estaría salivando ante la audacia de esta campaña. Cuanto más poderosa sea la inteligencia artificial, más vale Anthropic. Cuanto más peligrosa sea la inteligencia artificial, más necesitamos a Anthropic para protegernos de ella. Imagino lo que estará pensando en este momento, porque yo pienso igual: todo esto apesta a un asustaviejas de manual. No tengo ninguna prueba, pero cuando las apuestas son tan espectacularmente altas me cuesta pensar que los actores no recurran a maniobras desesperadas.

Y volvemos al pobre doctor Granville, que partía, al menos, de una realidad: los primeros ferrocarriles eran peligrosos. Una locomotora de vapor que desplazaba toneladas de metal a velocidades nunca experimentadas hasta entonces por la inmensa mayoría de los seres humanos constituía una máquina formidable. Solo que el riesgo compensa con creces. La electricidad puede electrocutarte, la energía nuclear puede vaporizar una ciudad y proporciona electricidad a millones de hogares. Caramba, si los riesgos nos detuvieran en seco ni siquiera hubiéramos desarrollado la tecnología para encender fuego, que quema.

La inteligencia artificial es peligrosa, precisamente porque es enormemente eficaz. Se puede usar para el mal, igual que puedo usar un martillo para hundírselo en la cabeza a mi cuñado. Y no está demás imponer garantías sobre quién la controla y qué capacidad de actuar sobre el mundo decidimos entregarle.

Lo que no hay es magia, nada por aquí, nada por allá. La IA no es el Skynet de Terminator ni levantarse una mañana con el pie izquierdo y decidir exterminarnos. Simplificando muchísimo, quizá baste controlar a quién le damos el martillo y para qué lo usa.

Así que voy a terminar utilizando el método Hubinger: calculo en más de un 10% (bastante más) la probabilidad de que en todo este Apocalipsis haya una buena dosis de marketing, exageración interesada, guerra comercial, guerra de percepciones o simple asustaviejas. Y si algún día la inteligencia artificial acaba realmente con la humanidad, antes de culpar a la máquina convendrá averiguar qué imbécil le dio las llaves.