Los ingenieros de la IA están pidiendo un freno que todavía no existe

El avance de la IA no tiene marcha atrás. Esto es lo que piensan los firmantes de la carta, titulada «Pacing the Frontier», si bien no pide detener el desarrollo de IA ahora mismo. Pide algo más concreto y, a la vez, más incómodo para el sector, que el gobierno de Estados Unidos ayude a construir las herramientas técnicas y de gobernanza necesarias para poder ralentizar de forma deliberada el desarrollo de sistemas que, a su vez, diseñan la siguiente generación de sistemas de IA.

La lista de firmantes es lo que convierte esta carta en algo más que un gesto simbólico. Entre los nombres aparecen Dario Amodei, consejero delegado de Anthropic, los cofundadores Jared Kaplan y Jack Clark, el científico jefe de OpenAI, Jakub Pachocki, el científico jefe de Meta, Shengjia Zhao, y la responsable de seguridad de IA de Google, Anca Dragan. No son empleados anónimos preocupados por su propio trabajo, sino personas que ocupan puestos de dirección en las compañías que están construyendo justamente los modelos que la carta describe como motivo de preocupación.

Al límite del plazo de la Casa Blanca

El momento elegido tampoco parece casual. La carta se publicó dos días antes de que la Administración Trump deba entregar mañana su propio marco regulatorio para lo que la Executive Order 14409 llama «modelos de IA de frontera cubiertos». Esa orden, firmada el 2 de junio, encargó a la NSA, al CISA y al Departamento del Tesoro, entre otras agencias, diseñar un proceso clasificado para determinar qué sistemas entran en esa categoría y un marco voluntario sobre cómo deben revisarse antes de su lanzamiento. La carta llega, por tanto, justo cuando ese marco todavía se está redactando y puede influir en su contenido final.

El pero que conviene no perder de vista

Ahí conviene aplicar algo de escepticismo. Semanas antes, los máximos responsables de Google DeepMind, OpenAI y Anthropic ya habían publicado, cada uno por su lado, propuestas para que los modelos de frontera se sometan a pruebas de organismos independientes antes de salir al mercado y para que exista un único organismo que certifique su cumplimiento. Críticos del sector han advertido de que un sistema de certificación complejo podría, en la práctica, blindar a las empresas ya establecidas y dificultar la entrada de startups y de proyectos de código abierto. Pedir regulación no es necesariamente un acto altruista si esa regulación termina beneficiando a quien la pide.

Lo que queda por ver es si el gobierno estadounidense recoge esta petición en el marco que debe presentar el 1 de agosto o si, como ha ocurrido otras veces este año, la evaluación de modelos de frontera sigue haciéndose caso por caso y sin un criterio publicado de antemano.