Anthropic alerta de que ha bloqueado varios intentos de crear armas biológicas con su IA

Anthropic ha publicado un extenso informe de inteligencia sobre amenazas en el que revela haber detectado y bloqueado varios intentos de utilizar sus modelos de inteligencia artificial, en particular Claude, para investigaciones que podrían facilitar el desarrollo de armas biológicas. Según la compañía, durante los últimos meses se han registrado casos en los que científicos vinculados a instituciones de países sujetos a restricciones de acceso lograron eludir algunos de los controles regionales y solicitaron asistencia a la IA para redactar solicitudes de financiación o planificar experimentos de ganancia de función.

Uno de los ejemplos más concretos de esos intentos de crear armas biológicas era una investigación sobre el virus del chikungunya, un patógeno transmitido por mosquitos que causa fuertes dolores y para el que no existe tratamiento específico autorizado. La empresa subraya que no pudo determinar con certeza si la intención última de estos trabajos era legítima —como el desarrollo de vacunas o tratamientos— o si apuntaba a aplicaciones más peligrosas.

Precisamente por esa ambigüedad, y ante el riesgo potencial de que sus sistemas contribuyeran a la creación de patógenos con capacidad pandémica, Anthropic optó por cancelar las cuentas implicadas, desmantelar redes de acceso indirecto y reforzar sus filtros de seguridad biológicos. Además, compartió los hallazgos con otras compañías del sector y con autoridades gubernamentales.

El informe marca uno de los primeros reconocimientos públicos detallados por parte de un gran laboratorio de IA sobre intentos reales de uso indebido en el ámbito de las armas biológicas, un terreno hasta ahora más teórico que documentado con casos concretos.

Este anuncio llega solo un día después de que  el investigador Jacob Coxon, de 27 años, anunciara su dimisión de Anthropic tras haber trabajado también en OpenAI en tareas de preentrenamiento de modelos. En una serie de mensajes que se volvieron virales, Coxon afirmó que ni Anthropic ni OpenAI están actuando de forma responsable.

Según él, ambas compañías están «corriendo directamente hacia la superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas». Coxon fue más lejos al declarar que las personas que construyen esta tecnología creen sinceramente que podría acabar con la humanidad antes de que termine la década. «Esto no es una estratagema de marketing», escribió.

«Si acaso, muchos ejecutivos e investigadores senior suavizan sus palabras en público para sonar sensatos, pero en privado expresan el mismo miedo. Ninguna otra actividad humana plantea este nivel de peligro». El investigador describió el momento actual como el «crunch time» (la hora de la verdad) o el «endgame» (final de partida) de la humanidad, citando expresiones que, según él, escuchaba habitualmente entre sus colegas. Advirtió que, si no se controla el ritmo, los sistemas podrían escapar al control humano ya a finales del próximo año.

Sus palabras recibieron un respaldo inesperado desde dentro de la propia Anthropic. Evan Hubinger, responsable de la ciencia de alineamiento de la compañía, afirmó públicamente que Coxon tenía razón y que muchos investigadores creen de verdad que la inteligencia artificial podría acabar con todos los seres humanos.