Anthropic alerta de los «riesgos existenciales para la humanidad» de su IA antes de la salida a Bolsa

Anthropic ha alertado a sus inversores de que su negocio de inteligencia artificial puede suponer «riesgos existenciales para la humanidad» en el folleto de presentación de su oferta pública inicial (OPI) para su salida a la Bolsa de Nueva York.

En concreto, la startup ha relatado los «factores de riesgo» de la IA a lo largo de casi un tercio del formulario, sin duda, algo que no es habitual en la presentación a inversores, y entre estos peligros se incluyen el potencial de los modelos cada vez más avanzados para manipular, chantajear y exhibir otros comportamientos impredecibles, según ha adelantado la agencia Reuters.

Asimismo, no todos los riesgos tiene que ver con amenazas contra la humanidad, sino que la compañía liderada por Dario Amodei ha avisado sobre la gran concentración de su base de clientes al provenir casi un cuarta parte de sus ingresos de dos clientes.

Pérdidas operativas superiores a los 7.000 millones de euros

Por otro lado, el folleto de la OPI revela que Anthropic registró unas pérdidas operativas superiores a los 8.000 millones de dólares (7.000 millones de euros) durante el pasado ejercicio y obtuvo ingresos por valor de 4.600 millones de dólares (3.500 millones de euros), lo que supuso multiplicar por doce la facturación en un año.

En este sentido, el elevado gasto en capacidad de procesamiento informático y los recursos necesarios para entrenar y ejecutar sus modelos situó los gastos operativos a casi 13.000 millones de dólares (11.500 millones de euros).

No obstante, los ingresos de Anthropic alcanzaron los 11.500 millones de dólares (10.130 millones de euros) en el segundo trimestre de este año y se encamina hacia su segundo trimestre consecutivo con beneficios operativos.

Igualmente, la firma de IA ha informado que aspira a invertir hasta 518.000 millones de dólares (456.000 millones de euros) en cuestiones relacionadas con la nube, la computación y la infraestructura en los próximos años para respaldar su rápido crecimiento, al mismo tiempo que ha indicado contar ya con acuerdos para ampliar su capacidad de procesamiento informático con Google, SpaceX y otras empresas.

Anthropic busca debutar en Wall Street con una valoración de al menos 2 billones de dólares (1,7 billones de euros), una cifra que superaría a los 1,77 billones de dólares (1,5 billones de euros) alcanzados en su OPV por SpaceX y que convertiría el salto al parqué de la startup de IA responsable de Claude y Mythos en la mayor oferta pública inicial de la historia.

Anthropic levantó el pasado mes de mayo 65.000 millones de dólares (56.345 millones de euros) en una ronda de financiación liderada por Altimeter Capital, Dragoneer, Greenoaks y Sequoia Capital, que valoraba la startup en 965.000 millones de dólares (836.511 millones de euros), superando entonces por primera vez la valoración estimada de OpenAI, creador de ChatGPT.

El revuelo creado en el sector por los potenciales peligros de la IA marcarán esta tan esperada salida a Bolsa, mientras su principal competidor, OpenAI, tomó la decisión de retrasar su debut bursátil por considera un momento complejo para dar el paso.

«Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente», destacó el pasado miércoles Dario Amodei ante el Consejo de Seguridad de la ONU.