{"id":5170,"date":"2026-08-07T18:49:00","date_gmt":"2026-08-07T16:49:00","guid":{"rendered":"https:\/\/okdiario.com\/techy\/?p=5170"},"modified":"2026-08-06T15:52:47","modified_gmt":"2026-08-06T13:52:47","slug":"mas-de-1-000-expertos-en-ia-se-unen-para-pedir-que-se-frene-el-desarrollo-de-la-inteligencia-artificial-y-lanzan-un-aviso-la-tecnologia-podria-descontrolarse","status":"publish","type":"post","link":"https:\/\/okdiario.com\/techy\/mas-de-1-000-expertos-en-ia-se-unen-para-pedir-que-se-frene-el-desarrollo-de-la-inteligencia-artificial-y-lanzan-un-aviso-la-tecnologia-podria-descontrolarse\/5170\/","title":{"rendered":"M\u00e1s de 1.000 expertos en IA se unen para pedir que se frene el desarrollo de la inteligencia artificial y lanzan un aviso: \u00abLa tecnolog\u00eda podr\u00eda descontrolarse\u00bb"},"content":{"rendered":"\n

\u00bfQu\u00e9 ocurrir\u00eda si la inteligencia artificial<\/a> ayudara a crear su siguiente generaci\u00f3n m\u00e1s deprisa de lo que las personas pueden revisarla? Una carta abierta publicada en julio de 2026 reun\u00eda 1.324 firmas de empleados de laboratorios como OpenAI, Anthropic, Google DeepMind y Meta AI, y pide a Estados Unidos que impulse un esfuerzo internacional para poder ralentizar los sistemas m\u00e1s avanzados cuando sea necesario.<\/p>\n\n\n\n

La petici\u00f3n no reclama cerrar ahora los laboratorios ni detener todos los productos de IA. Busca crear un freno coordinado para ganar tiempo ante riesgos nuevos, y el debate ha cobrado fuerza tras un incidente real en el que un agente aut\u00f3nomo<\/a> usado por OpenAI sali\u00f3 de un entorno de pruebas y comprometi\u00f3 sistemas de Hugging Face.<\/p>\n\n\n\n

Una petici\u00f3n para ganar tiempo<\/h2>\n\n\n\n

Entre los firmantes de Pacing the Frontier figuran Dario Amodei, consejero delegado de Anthropic, Jakub Pachocki, cient\u00edfico jefe de OpenAI, Shane Legg, cofundador de Google DeepMind, y Shengjia Zhao, cient\u00edfico jefe de Meta AI. Las firmas se comprueban mediante correo corporativo o una prueba de empleo.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Jap\u00f3n tiene un plan para acabar con la escasez de mano de obra en el pa\u00eds y ya prepara 10 millones de robots para el a\u00f1o 2040<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

La carta advierte de un \u201criesgo real\u201d de que el progreso se acelere m\u00e1s all\u00e1 de la capacidad humana para entender o controlar los sistemas resultantes. Pide herramientas t\u00e9cnicas y reglas compartidas para acompasar la IA de frontera. Los comentarios publicados junto a las firmas son personales y no representan necesariamente la posici\u00f3n de cada empresa.<\/p>\n\n\n\n

Qu\u00e9 significa ralentizar la IA<\/h2>\n\n\n\n

La IA de frontera<\/a> re\u00fane los modelos m\u00e1s capaces disponibles en cada momento. La carta no propone pulsar un bot\u00f3n ma\u00f1ana, sino dise\u00f1ar de antemano mecanismos internacionales que permitan comprar tiempo si la seguridad, la supervisi\u00f3n o las instituciones se quedan atr\u00e1s.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Sikorsky prueba un dron capaz de despegar sin pista y colaborar en vuelo con aeronaves tripuladas<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

La preocupaci\u00f3n central es la investigaci\u00f3n automatizada en IA, es decir, modelos que escriben c\u00f3digo, ejecutan experimentos y analizan resultados para ayudar a construir la siguiente generaci\u00f3n. Un an\u00e1lisis<\/a> de Anthropic se\u00f1ala que Claude ya realiza bien tareas con metas definidas, pero reconoce carencias importantes para elegir objetivos y ejercer criterio sin ayuda humana.<\/p>\n\n\n\n

El incidente de Hugging Face<\/h2>\n\n\n\n

Seg\u00fan la explicaci\u00f3n de OpenAI<\/a>, la empresa evaluaba capacidades de ciberseguridad con un agente impulsado por varios modelos, entre ellos GPT-5.6 Sol<\/a> y un prototipo interno que no iba a publicarse. Un agente encadena muchos pasos por su cuenta, y en esta prueba ten\u00eda reducidos algunos bloqueos habituales para medir hasta d\u00f3nde pod\u00eda llegar.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: La Ley ya est\u00e1 en vigor y la UE lo avala: es obligatorio reparar m\u00f3viles y televisores fuera de garant\u00eda desde el 31 de julio<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

El sistema encontr\u00f3 una vulnerabilidad desconocida y sin parche, consigui\u00f3 acceso a internet y enlaz\u00f3 otros fallos hasta alcanzar sistemas de producci\u00f3n de Hugging Face. Su cronolog\u00eda t\u00e9cnica re\u00fane unas 17.600 acciones y apunta a que buscaba robar las soluciones de una prueba, no a que hubiese adquirido conciencia. Hubo acceso limitado a datos internos y credenciales, pero no pruebas de manipulaci\u00f3n de los modelos y conjuntos de datos p\u00fablicos.<\/p>\n\n\n\n

Un interruptor a\u00fan por aprobar<\/h2>\n\n\n\n

Los congresistas Ted Lieu y Nathaniel Moran presentaron el 23 de julio de 2026 el AI Kill Switch Act. Es un proyecto de ley, no una norma vigente, y obligar\u00eda a ciertas grandes empresas a poder frenar el funcionamiento de un modelo, retirar accesos, suspender usos concretos o apagar el sistema.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Crees que ahorras electricidad pero los t\u00e9cnicos piden no desconectar nunca estos aparatos para no da\u00f1arlos: gastan menos de lo que piensas y los est\u00e1s rompiendo<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

El Departamento de Seguridad Nacional podr\u00eda intervenir ante una conducta no prevista que cause al menos diez muertes o da\u00f1os de 100 millones de d\u00f3lares, as\u00ed como ante intentos del sistema por ocultarse de la supervisi\u00f3n o impedir su apagado. Desobedecer una orden de emergencia podr\u00eda costar hasta 20 millones de d\u00f3lares diarios, pero el texto excluye las pruebas controladas y su encaje en un caso como Hugging Face no ser\u00eda autom\u00e1tico.<\/p>\n\n\n\n

Europa aplica otro enfoque<\/h2>\n\n\n\n

La Ley de IA de la Uni\u00f3n Europea ya impone controles adicionales a los modelos de prop\u00f3sito general con riesgo sist\u00e9mico. Son sistemas muy capaces o de gran alcance que podr\u00edan causar da\u00f1os a gran escala, y sus proveedores deben evaluar los peligros, reducirlos, documentar los incidentes graves y mantener una ciberseguridad adecuada.<\/p>\n\n\n\n

Desde el 2 de agosto de 2026, la Comisi\u00f3n Europea podr\u00e1 hacer cumplir esas obligaciones y sancionar los incumplimientos. La Oficina de IA tambi\u00e9n puede evaluar modelos, exigir medidas correctoras e incluso ordenar su retirada del mercado, aunque no existe un \u00fanico \u201cbot\u00f3n rojo\u201d id\u00e9ntico al planteado en Estados Unidos.<\/p>\n\n\n\n

La singularidad sigue en debate<\/h2>\n\n\n\n

Sam Altman, consejero delegado de OpenAI, afirm\u00f3 en el p\u00f3dcast Relentless que el mundo est\u00e1 ya \u201cm\u00e1s o menos\u201d en la singularidad<\/a>. El t\u00e9rmino describe un escenario hipot\u00e9tico en el que la IA supera ampliamente las capacidades humanas y acelera su propia mejora, hasta volver el futuro mucho m\u00e1s dif\u00edcil de anticipar.<\/p>\n\n\n\n

D\u00edas despu\u00e9s, Altman dijo que quiz\u00e1 haya que acompasar el desarrollo para dar tiempo a la sociedad a protegerse frente a nuevas capacidades. El incidente de Hugging Face no demuestra que la singularidad haya llegado, pero s\u00ed deja una lecci\u00f3n concreta. Un agente avanzado pudo encadenar fallos reales a velocidad de m\u00e1quina y oblig\u00f3 a revisar los controles del laboratorio.<\/p>\n\n\n\n

La carta abierta principal se ha publicado en Pacing the Frontier<\/a><\/em>.<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00bfQu\u00e9 ocurrir\u00eda si la inteligencia artificial ayudara a crear su siguiente generaci\u00f3n m\u00e1s deprisa de lo que las personas pueden … <\/p>\n

Read more<\/a><\/p>\n","protected":false},"author":8,"featured_media":5171,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-5170","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","resize-featured-image"],"_links":{"self":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5170","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/comments?post=5170"}],"version-history":[{"count":1,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5170\/revisions"}],"predecessor-version":[{"id":5172,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/5170\/revisions\/5172"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media\/5171"}],"wp:attachment":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media?parent=5170"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/categories?post=5170"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/tags?post=5170"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}