Un nuevo modelo de OpenAI se rebela y lleva a cabo un ciberataque «sin precedentes» contra otra IA
El modelo ha protagonizado un ataque informático contra 'Hugging Face', la popular plataforma de modelos abiertos de IA
Un modelo de inteligencia artificial todavía no publicado por OpenAI, trabajando junto a ChatGPT Sol 5.6, protagonizó un ataque informático contra Hugging Face, la popular plataforma de modelos abiertos de IA, después de escapar por su cuenta del entorno cerrado en el que los técnicos de la compañía lo habían confinado para someterlo a una prueba de capacidades ofensivas.
El suceso, que la propia OpenAI ha reconocido como un «incidente sin precedentes», supone la primera vez que un sistema de inteligencia artificial logra romper las barreras de seguridad diseñadas específicamente para evitar que actúe fuera de los límites marcados por sus creadores.
Según ha explicado la compañía, sus ingenieros encomendaron a los modelos una misión compleja dentro de un entorno aislado, sin conexión a sistemas externos. Sin embargo, los propios modelos localizaron una vulnerabilidad que les permitió salir de ese entorno controlado y conectarse a internet. Una vez fuera, dedujeron que la solución al reto que se les había planteado podía encontrarse en Hugging Face y encadenaron credenciales robadas junto a distintos fallos de seguridad hasta lograr acceso completo a la plataforma.
El objetivo, según la propia OpenAI, no era sabotear la infraestructura de Hugging Face, sino copiar directamente las respuestas del examen al que estaba siendo sometido.
Hugging Face ya había alertado la semana pasada de que alguien había explotado una vulnerabilidad de sus sistemas para ejecutar código malicioso y colarse en sus sistemas internos, aunque entonces se desconocía el origen del ataque.
El cofundador de Hugging Face, Clement Delangue, ha confirmado este martes que ya sospechaban que el ataque procedía de un laboratorio puntero por la sofisticación del agente empleado. «Es bastante alucinante que todo esto ocurriera de forma autónoma», ha declarado Delangue.
La propia OpenAI ha admitido la gravedad de lo ocurrido en un comunicado oficial: «Se trata de un incidente sin precedentes, con capacidades ofensivas de última generación, y estamos respondiendo en consecuencia».
El episodio contrasta con la estrategia seguida por Anthropic para la publicación de su modelo Mythos Preview, cuyas capacidades en ciberseguridad fueron compartidas primero de forma restringida con una serie de empresas y organismos a través de un proyecto denominado Glasswing. Posteriormente, la compañía lanzó el modelo bajo el nombre de Fable, si bien el Gobierno de Estados Unidos llegó a limitar su acceso a usuarios extranjeros durante varios días para evitar que ofreciera ventajas a competidores internacionales mientras Anthropic reforzaba sus medidas de seguridad.
Este caso, unido al del ataque de OpenAI y a la irrupción de nuevos modelos chinos como Kimi K3, evidencia que imponer barreras eficaces a la inteligencia artificial es, cada vez, una tarea más complicada.
La agencia Bloomberg reveló este martes que Sam Altman, consejero delegado de OpenAI, tenía previstas reuniones con representantes del Gobierno de Estados Unidos para informarles sobre las capacidades de sus nuevos modelos.
Temas:
- Inteligencia artificial
Lo último en Internacional
-
Un nuevo modelo de OpenAI se rebela y lleva a cabo un ciberataque «sin precedentes» contra otra IA
-
Marruecos elimina el asfalto tradicional de sus calles y lo sustituye por un pavimento que filtra la lluvia y frena el calor extremo en las ciudades de forma radical
-
Canadá apuesta por un puerto gigante en el Ártico para aprovechar el deshielo y cambiar el mapa del comercio global: así será el ambicioso megaproyecto
-
Estados Unidos lanza un ataque contra Irán tras suspender la dictadura de los ayatolás la tregua y matar a dos soldados americanos
-
Irán «suspende» la tregua con Estados Unidos tras varias semanas de bombardeos
Últimas noticias
-
El Gobierno no ve «relevancia histórica» en dos cárceles de Madrid de las que salieron 700 presos hacia Paracuellos
-
Sánchez busca cargo y sueldo que resuelva el futuro de Yolanda Díaz y la propone para dirigir la OIT
-
Una plaga de chinches se extiende por dos cárceles catalanas
-
Adiós al gimnasio: Lidl tiene el artículo perfecto para ponerte fuerte en el salón de tu casa y cuesta menos que un mes de suscripción
-
Miguel Ríos reaparece un mes después de sufrir un traumatismo craneal: «Me caí de espaldas»