Un nuevo modelo de OpenAI se rebela y lleva a cabo un ciberataque «sin precedentes» contra otra IA
El modelo ha protagonizado un ataque informático contra 'Hugging Face', la popular plataforma de modelos abiertos de IA
Un modelo de inteligencia artificial todavía no publicado por OpenAI, trabajando junto a ChatGPT Sol 5.6, protagonizó un ataque informático contra Hugging Face, la popular plataforma de modelos abiertos de IA, después de escapar por su cuenta del entorno cerrado en el que los técnicos de la compañía lo habían confinado para someterlo a una prueba de capacidades ofensivas.
El suceso, que la propia OpenAI ha reconocido como un «incidente sin precedentes», supone la primera vez que un sistema de inteligencia artificial logra romper las barreras de seguridad diseñadas específicamente para evitar que actúe fuera de los límites marcados por sus creadores.
Según ha explicado la compañía, sus ingenieros encomendaron a los modelos una misión compleja dentro de un entorno aislado, sin conexión a sistemas externos. Sin embargo, los propios modelos localizaron una vulnerabilidad que les permitió salir de ese entorno controlado y conectarse a internet. Una vez fuera, dedujeron que la solución al reto que se les había planteado podía encontrarse en Hugging Face y encadenaron credenciales robadas junto a distintos fallos de seguridad hasta lograr acceso completo a la plataforma.
El objetivo, según la propia OpenAI, no era sabotear la infraestructura de Hugging Face, sino copiar directamente las respuestas del examen al que estaba siendo sometido.
Hugging Face ya había alertado la semana pasada de que alguien había explotado una vulnerabilidad de sus sistemas para ejecutar código malicioso y colarse en sus sistemas internos, aunque entonces se desconocía el origen del ataque.
El cofundador de Hugging Face, Clement Delangue, ha confirmado este martes que ya sospechaban que el ataque procedía de un laboratorio puntero por la sofisticación del agente empleado. «Es bastante alucinante que todo esto ocurriera de forma autónoma», ha declarado Delangue.
La propia OpenAI ha admitido la gravedad de lo ocurrido en un comunicado oficial: «Se trata de un incidente sin precedentes, con capacidades ofensivas de última generación, y estamos respondiendo en consecuencia».
El episodio contrasta con la estrategia seguida por Anthropic para la publicación de su modelo Mythos Preview, cuyas capacidades en ciberseguridad fueron compartidas primero de forma restringida con una serie de empresas y organismos a través de un proyecto denominado Glasswing. Posteriormente, la compañía lanzó el modelo bajo el nombre de Fable, si bien el Gobierno de Estados Unidos llegó a limitar su acceso a usuarios extranjeros durante varios días para evitar que ofreciera ventajas a competidores internacionales mientras Anthropic reforzaba sus medidas de seguridad.
Este caso, unido al del ataque de OpenAI y a la irrupción de nuevos modelos chinos como Kimi K3, evidencia que imponer barreras eficaces a la inteligencia artificial es, cada vez, una tarea más complicada.
La agencia Bloomberg reveló este martes que Sam Altman, consejero delegado de OpenAI, tenía previstas reuniones con representantes del Gobierno de Estados Unidos para informarles sobre las capacidades de sus nuevos modelos.
Temas:
- Inteligencia artificial
Lo último en Internacional
-
El Papa León XIV no necesitará más tratamiento tras su operación de cáncer de pulmón
-
Marruecos ultima con Israel la compra de la Honda de David tras interesarse por armas capaces de alcanzar Canarias
-
El estallido viral de un joven de Milán harto de los asaltos: «¡Si vienes y destruyes mi país, patada en el culo!»
-
Andrés Calamaro (65 años), sobre la violencia en Francia: «Free Palestine era esto, crear idiotas útiles para romper Occidente»
-
António Costa advierte: «Europa no puede limitarse a reaccionar, necesita recursos y unidad para decidir su futuro»
Últimas noticias
-
Sánchez se refugia en ‘La Revuelta’ de Broncano para evitar entrevistas incómodas con un ‘show’ a su medida este jueves
-
Victoria sufrida del Betis ante el Feyenoord: Isco resuelve el partido desde el punto de penalti
-
Abascal culpa en ‘Horizonte’ a Sánchez y Marlaska de la violencia contra Vox: «Esto no lo permitiría con el PSOE»
-
La ‘kale borroka’ vuelve a sembrar el pánico en las calles en La Coruña: barricadas, mobiliario urbano quemado y cargas policiales
-
En 1967 EEUU hizo estallar una bomba nuclear para sacar gas a 1.288 metros bajo Nuevo México: 59 años después sigue prohibido perforar allí sin permiso del Gobierno