Un nuevo modelo de OpenAI se rebela y lleva a cabo un ciberataque «sin precedentes» contra otra IA
El modelo ha protagonizado un ataque informático contra 'Hugging Face', la popular plataforma de modelos abiertos de IA
Un modelo de inteligencia artificial todavía no publicado por OpenAI, trabajando junto a ChatGPT Sol 5.6, protagonizó un ataque informático contra Hugging Face, la popular plataforma de modelos abiertos de IA, después de escapar por su cuenta del entorno cerrado en el que los técnicos de la compañía lo habían confinado para someterlo a una prueba de capacidades ofensivas.
El suceso, que la propia OpenAI ha reconocido como un «incidente sin precedentes», supone la primera vez que un sistema de inteligencia artificial logra romper las barreras de seguridad diseñadas específicamente para evitar que actúe fuera de los límites marcados por sus creadores.
Según ha explicado la compañía, sus ingenieros encomendaron a los modelos una misión compleja dentro de un entorno aislado, sin conexión a sistemas externos. Sin embargo, los propios modelos localizaron una vulnerabilidad que les permitió salir de ese entorno controlado y conectarse a internet. Una vez fuera, dedujeron que la solución al reto que se les había planteado podía encontrarse en Hugging Face y encadenaron credenciales robadas junto a distintos fallos de seguridad hasta lograr acceso completo a la plataforma.
El objetivo, según la propia OpenAI, no era sabotear la infraestructura de Hugging Face, sino copiar directamente las respuestas del examen al que estaba siendo sometido.
Hugging Face ya había alertado la semana pasada de que alguien había explotado una vulnerabilidad de sus sistemas para ejecutar código malicioso y colarse en sus sistemas internos, aunque entonces se desconocía el origen del ataque.
El cofundador de Hugging Face, Clement Delangue, ha confirmado este martes que ya sospechaban que el ataque procedía de un laboratorio puntero por la sofisticación del agente empleado. «Es bastante alucinante que todo esto ocurriera de forma autónoma», ha declarado Delangue.
La propia OpenAI ha admitido la gravedad de lo ocurrido en un comunicado oficial: «Se trata de un incidente sin precedentes, con capacidades ofensivas de última generación, y estamos respondiendo en consecuencia».
El episodio contrasta con la estrategia seguida por Anthropic para la publicación de su modelo Mythos Preview, cuyas capacidades en ciberseguridad fueron compartidas primero de forma restringida con una serie de empresas y organismos a través de un proyecto denominado Glasswing. Posteriormente, la compañía lanzó el modelo bajo el nombre de Fable, si bien el Gobierno de Estados Unidos llegó a limitar su acceso a usuarios extranjeros durante varios días para evitar que ofreciera ventajas a competidores internacionales mientras Anthropic reforzaba sus medidas de seguridad.
Este caso, unido al del ataque de OpenAI y a la irrupción de nuevos modelos chinos como Kimi K3, evidencia que imponer barreras eficaces a la inteligencia artificial es, cada vez, una tarea más complicada.
La agencia Bloomberg reveló este martes que Sam Altman, consejero delegado de OpenAI, tenía previstas reuniones con representantes del Gobierno de Estados Unidos para informarles sobre las capacidades de sus nuevos modelos.
Temas:
- Inteligencia artificial
Lo último en Internacional
-
Rutte llama a la calma ante las «acciones hostiles» de Rusia y asegura que la OTAN está preparada para «cualquier amenaza»
-
Terror en un avión en Israel: investigan si el apuñalamiento de un copiloto al piloto fue un intento de estrellarlo
-
La Policía antiterrorista británica investiga a cinco hombres detenidos cerca de una base de Estados Unidos
-
A 315 metros de altura China está instalando 27 espejos en las montañas para acelarar la construcción de la presa más alta del mundo
-
Seis muertos al derrumbarse un edificio con un apartamento turístico en el casco histórico de Atenas
Últimas noticias
-
Rutte llama a la calma ante las «acciones hostiles» de Rusia y asegura que la OTAN está preparada para «cualquier amenaza»
-
El particular ‘veranillo de San Miguel’ de Paula Echevarría: Marbella, Miguel Torres y un festín de pescaíto
-
Decreto de vivienda y última hora de la acampada en Sol, en directo | Los Reyes visitarán Ceuta y Melilla el 13 y 14 de octubre
-
Julen Guerrero sufre un infarto
-
Cada vez más personas eligen construir sus vidas sin pareja: detrás del ‘solo maxxing’ se esconde una aspiración más profunda según los psicólogos