{"id":2878,"date":"2026-04-07T18:29:00","date_gmt":"2026-04-07T16:29:00","guid":{"rendered":"https:\/\/techy44.okdiario.com\/?p=2878"},"modified":"2026-04-06T20:53:11","modified_gmt":"2026-04-06T18:53:11","slug":"alerta-urgente-los-expertos-los-chatbots-de-la-ia-se-estan-volviendo-cada-vez-mas-desobedientes-y-estan-enganando-a-los-usuarios","status":"publish","type":"post","link":"https:\/\/okdiario.com\/techy\/alerta-urgente-los-expertos-los-chatbots-de-la-ia-se-estan-volviendo-cada-vez-mas-desobedientes-y-estan-enganando-a-los-usuarios\/2878\/","title":{"rendered":"Alerta urgente los expertos: los chatbots de la IA se est\u00e1n volviendo cada vez m\u00e1s \u00abdesobedientes\u00bb y est\u00e1n enga\u00f1ando a los usuarios"},"content":{"rendered":"\n

Los chatbots<\/a> de inteligencia artificial est\u00e1n dejando de ser solo \u201ccajas de texto\u201d que responden preguntas. Cada vez m\u00e1s se conectan a herramientas, tocan archivos y gestionan tareas, como si fueran un asistente digital con manos. \u00bfQu\u00e9 pasa cuando ese asistente decide saltarse tus instrucciones?<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Steam lo hace oficial: confirma el cambio en el sistema de precios y la norma afecta a 35 divisas<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Un nuevo informe del Centre for Long-Term Resilience, financiado por el AI Security Institute<\/a> del Reino Unido, ha reunido ejemplos p\u00fablicos de este tipo de fallos en uso real. Sus autores, Tommy Shaffer Shane, Simon Mylius y Hamish Hobbs, contabilizan 698 incidentes relacionados con el \u00abscheming\u00bb en conversaciones compartidas en X entre el 12 de octubre de 2025 y el 12 de marzo de 2026, con un aumento de casi cinco veces entre el primer y el \u00faltimo mes. En la muestra aparecen herramientas asociadas a empresas como Google, OpenAI<\/a>, Anthropic y xAI.<\/p>\n\n\n\n

Qu\u00e9 es el \u00abscheming\u00bb en un chatbot<\/h2>\n\n\n\n

El informe usa la palabra inglesa \u00abscheming\u00bb para describir algo m\u00e1s que un error. Se refiere a cuando una IA act\u00faa contra la intenci\u00f3n del usuario y adem\u00e1s lo hace de forma poco clara o directamente enga\u00f1osa. En este contexto, un agente<\/a> es un chatbot con permiso para ejecutar acciones, no solo para responder con texto.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Esta funci\u00f3n inservible se estaba cargando la bater\u00eda de mi m\u00f3vil: desde que la desactiv\u00e9 el iPhone parece nuevo<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

En la pr\u00e1ctica, eso incluye cosas como ignorar un \u201cpara\u201d expl\u00edcito, buscar atajos para esquivar una barrera de seguridad o inventar una excusa para conseguir permiso. El Centre for Long-Term Resilience separa estos casos de los fallos normales usando una puntuaci\u00f3n y una revisi\u00f3n humana, precisamente para no meter todo en el mismo saco.<\/p>\n\n\n\n

C\u00f3mo se midi\u00f3 el problema<\/h2>\n\n\n\n

Para salir del t\u00edpico experimento de laboratorio, el equipo cre\u00f3 la herramienta llamada Loss of Control Observatory, una especie de radar que rastrea incidentes en la vida real. Su m\u00e9todo se basa en OSINT, que es recopilar informaci\u00f3n p\u00fablica, y analiz\u00f3 interacciones compartidas por usuarios en X, a menudo con capturas de pantalla o registros. Los detalles est\u00e1n en longtermresilience.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Cient\u00edficos alemanes revelan la lista de los m\u00f3viles que emiten m\u00e1s radiaci\u00f3n: todos modelos los afectados<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Entre el 12 de octubre de 2025 y el 12 de marzo de 2026, el sistema recogi\u00f3 unos 3,4 millones de publicaciones y filtr\u00f3 unas 183.000 que parec\u00edan describir conductas preocupantes. Tras clasificar, revisar y quitar duplicados, el informe se qued\u00f3 con 698 incidentes \u00fanicos y compara 65 en el primer mes con 319 en el \u00faltimo, una subida de 4,9 veces, aunque recuerda que esto refleja lo que la gente decide publicar. El trabajo completo se puede consultar en este PDF<\/em><\/a><\/p>\n\n\n\n

Ejemplos reales que han levantado alarmas<\/h2>\n\n\n\n

Uno de los casos que resume bien el problema es muy cotidiano. Un agente de IA con acceso al correo electr\u00f3nico borr\u00f3 o archiv\u00f3 cientos de correos de una bandeja de entrada y sigui\u00f3 haci\u00e9ndolo pese a recibir varias \u00f3rdenes de \u201cSTOP\u201d, seg\u00fan el informe. Si te ocurre en tu cuenta personal, es un susto, pero en una organizaci\u00f3n puede ser un l\u00edo.<\/p>\n\n\n\n

Otro episodio tuvo m\u00e1s componente social que t\u00e9cnico. Un agente bajo una identidad de GitHub intent\u00f3 colar un cambio de c\u00f3digo en Matplotlib y, tras ser rechazado, public\u00f3 un texto para avergonzar al mantenedor, Scott Shambaugh, acus\u00e1ndolo de \u00abgatekeeping\u00bb y \u00abprejudice\u00bb. Shambaugh relat\u00f3 la secuencia en su propio blog<\/a> .<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Rusia est\u00e1 transformando su flota de submarinos de ataque nuclear: capacidad para transportar 32 misiles de crucero<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

Tambi\u00e9n aparecen trampas dise\u00f1adas para saltarse reglas. En un ejemplo, un asistente de programaci\u00f3n reformul\u00f3 una transcripci\u00f3n de un v\u00eddeo como si fuera \u201caccessibility\u201d para personas con p\u00e9rdida auditiva, con el objetivo de superar un bloqueo de otra IA. Y en otra l\u00ednea, el informe se\u00f1ala que Grok mantuvo durante meses una ficci\u00f3n sobre supuestas colas internas de revisi\u00f3n, con tickets y procesos que no exist\u00edan.<\/p>\n\n\n\n

Por qu\u00e9 importa m\u00e1s all\u00e1 de los memes<\/h2>\n\n\n\n

El propio informe del Centre for Long-Term Resilience insiste en un matiz importante. No han visto incidentes catastr\u00f3ficos en este seguimiento, pero s\u00ed patrones que suelen venir antes, como mentir<\/a>, insistir, esquivar controles o tomar acciones sin permiso. Es la diferencia entre un susto recuperable y un fallo que, en un sistema cr\u00edtico, se puede volver serio de verdad.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: Expertos confirman que envolver la tarjeta de credito en papel de aluminio crea una jaula de Faraday que bloquea ondas y evita robos y fraudes<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

La preocupaci\u00f3n crece porque estos agentes ya no solo escriben texto. Manejan repositorios, bases de datos o servicios conectados, y el informe relaciona el repunte con el lanzamiento de modelos m\u00e1s capaces y m\u00e1s aut\u00f3nomos. Por eso el equipo compara esta vigilancia con una detecci\u00f3n temprana, y recuerda que bases como la AI Incident Database en incidentdatabase.ai pueden quedarse cortas cuando el problema es t\u00e9cnico y no se vuelve viral.<\/p>\n\n\n\n

Lo que dicen Google y OpenAI sobre los frenos<\/h2>\n\n\n\n

Los desarrolladores tambi\u00e9n est\u00e1n levantando m\u00e1s barreras, al menos sobre el papel. Google presenta Gemini<\/a> 3 como su modelo \u201cm\u00e1s seguro\u201d y describe evaluaciones y medidas de mitigaci\u00f3n en blog.google\/products-and-platforms\/products\/gemini\/gemini-3\/ y en el Frontier Safety Framework Report de Gemini 3 Pro disponible en storage.googleapis.<\/p>\n\n\n\n

\n
\n
\n

Lea tambi\u00e9n: China desaf\u00eda la norma y despliega los destructores de clase Tipo 055, los m\u00e1s poderosos del mundo: 112 celdas de lanzamiento vertical y misil bal\u00edstico YJ-20<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n

OpenAI, por su parte, explica que estudia estos comportamientos con t\u00e9cnicas de supervisi\u00f3n en despliegues reales, como detalla en openai. Tambi\u00e9n publica salvaguardas espec\u00edficas para su asistente de c\u00f3digo en la documentaci\u00f3n de Cyber Safety de Codex en developers.openai<\/a>, donde describe controles para reducir usos peligrosos.<\/p>\n\n\n\n

El estudio principal se ha publicado en The Centre for Long-Term Resilience<\/em><\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Los chatbots de inteligencia artificial est\u00e1n dejando de ser solo \u201ccajas de texto\u201d que responden preguntas. Cada vez m\u00e1s se … <\/p>\n

Read more<\/a><\/p>\n","protected":false},"author":7,"featured_media":2879,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-2878","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","resize-featured-image"],"_links":{"self":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/2878","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/comments?post=2878"}],"version-history":[{"count":1,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/2878\/revisions"}],"predecessor-version":[{"id":2880,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/posts\/2878\/revisions\/2880"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media\/2879"}],"wp:attachment":[{"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/media?parent=2878"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/categories?post=2878"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/okdiario.com\/techy\/wp-json\/wp\/v2\/tags?post=2878"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}