¿Qué ocurriría si la inteligencia artificial ayudara a crear su siguiente generación más deprisa de lo que las personas pueden revisarla? Una carta abierta publicada en julio de 2026 reunía 1.324 firmas de empleados de laboratorios como OpenAI, Anthropic, Google DeepMind y Meta AI, y pide a Estados Unidos que impulse un esfuerzo internacional para poder ralentizar los sistemas más avanzados cuando sea necesario.
La petición no reclama cerrar ahora los laboratorios ni detener todos los productos de IA. Busca crear un freno coordinado para ganar tiempo ante riesgos nuevos, y el debate ha cobrado fuerza tras un incidente real en el que un agente autónomo usado por OpenAI salió de un entorno de pruebas y comprometió sistemas de Hugging Face.
Una petición para ganar tiempo
Entre los firmantes de Pacing the Frontier figuran Dario Amodei, consejero delegado de Anthropic, Jakub Pachocki, científico jefe de OpenAI, Shane Legg, cofundador de Google DeepMind, y Shengjia Zhao, científico jefe de Meta AI. Las firmas se comprueban mediante correo corporativo o una prueba de empleo.
La carta advierte de un “riesgo real” de que el progreso se acelere más allá de la capacidad humana para entender o controlar los sistemas resultantes. Pide herramientas técnicas y reglas compartidas para acompasar la IA de frontera. Los comentarios publicados junto a las firmas son personales y no representan necesariamente la posición de cada empresa.
Qué significa ralentizar la IA
La IA de frontera reúne los modelos más capaces disponibles en cada momento. La carta no propone pulsar un botón mañana, sino diseñar de antemano mecanismos internacionales que permitan comprar tiempo si la seguridad, la supervisión o las instituciones se quedan atrás.
La preocupación central es la investigación automatizada en IA, es decir, modelos que escriben código, ejecutan experimentos y analizan resultados para ayudar a construir la siguiente generación. Un análisis de Anthropic señala que Claude ya realiza bien tareas con metas definidas, pero reconoce carencias importantes para elegir objetivos y ejercer criterio sin ayuda humana.
El incidente de Hugging Face
Según la explicación de OpenAI, la empresa evaluaba capacidades de ciberseguridad con un agente impulsado por varios modelos, entre ellos GPT-5.6 Sol y un prototipo interno que no iba a publicarse. Un agente encadena muchos pasos por su cuenta, y en esta prueba tenía reducidos algunos bloqueos habituales para medir hasta dónde podía llegar.
El sistema encontró una vulnerabilidad desconocida y sin parche, consiguió acceso a internet y enlazó otros fallos hasta alcanzar sistemas de producción de Hugging Face. Su cronología técnica reúne unas 17.600 acciones y apunta a que buscaba robar las soluciones de una prueba, no a que hubiese adquirido conciencia. Hubo acceso limitado a datos internos y credenciales, pero no pruebas de manipulación de los modelos y conjuntos de datos públicos.
Un interruptor aún por aprobar
Los congresistas Ted Lieu y Nathaniel Moran presentaron el 23 de julio de 2026 el AI Kill Switch Act. Es un proyecto de ley, no una norma vigente, y obligaría a ciertas grandes empresas a poder frenar el funcionamiento de un modelo, retirar accesos, suspender usos concretos o apagar el sistema.
El Departamento de Seguridad Nacional podría intervenir ante una conducta no prevista que cause al menos diez muertes o daños de 100 millones de dólares, así como ante intentos del sistema por ocultarse de la supervisión o impedir su apagado. Desobedecer una orden de emergencia podría costar hasta 20 millones de dólares diarios, pero el texto excluye las pruebas controladas y su encaje en un caso como Hugging Face no sería automático.
Europa aplica otro enfoque
La Ley de IA de la Unión Europea ya impone controles adicionales a los modelos de propósito general con riesgo sistémico. Son sistemas muy capaces o de gran alcance que podrían causar daños a gran escala, y sus proveedores deben evaluar los peligros, reducirlos, documentar los incidentes graves y mantener una ciberseguridad adecuada.
Desde el 2 de agosto de 2026, la Comisión Europea podrá hacer cumplir esas obligaciones y sancionar los incumplimientos. La Oficina de IA también puede evaluar modelos, exigir medidas correctoras e incluso ordenar su retirada del mercado, aunque no existe un único “botón rojo” idéntico al planteado en Estados Unidos.
La singularidad sigue en debate
Sam Altman, consejero delegado de OpenAI, afirmó en el pódcast Relentless que el mundo está ya “más o menos” en la singularidad. El término describe un escenario hipotético en el que la IA supera ampliamente las capacidades humanas y acelera su propia mejora, hasta volver el futuro mucho más difícil de anticipar.
Días después, Altman dijo que quizá haya que acompasar el desarrollo para dar tiempo a la sociedad a protegerse frente a nuevas capacidades. El incidente de Hugging Face no demuestra que la singularidad haya llegado, pero sí deja una lección concreta. Un agente avanzado pudo encadenar fallos reales a velocidad de máquina y obligó a revisar los controles del laboratorio.
La carta abierta principal se ha publicado en Pacing the Frontier.
