Techy
Ciberseguridad

OpenAI dice que intentan copiar el razonamiento interno de sus modelos: actúa cada semana contra miles de cuentas y apunta a DeepSeek y a personas vinculadas a Kimi

Cada semana, OpenAI toma medidas contra entre miles y decenas de miles de cuentas. Según la compañía, forman parte de campañas para copiar sus modelos, y muchas intentan sacarles su razonamiento interno. Con ese material, otros pueden entrenar su propia inteligencia artificial sin las protecciones del modelo original.

La técnica se llama destilación y no es nueva. Lo que preocupa a la compañía es su uso sin permiso, que llama destilación adversaria. Lo ha explicado el 20 de noviembre de 2026 en una nota de su web oficial.

En ella detalla cómo detecta estas campañas, qué ha cambiado en sus modelos más recientes y a quién atribuye parte de los intentos.

Aprender de otra IA

La destilación es una técnica habitual del aprendizaje automático. Un modelo aprende de los datos que produce otro: de sus respuestas, de su razonamiento o de sus juicios sobre qué respuesta es mejor y por qué.

El problema llega cuando alguien usa sin autorización las respuestas de un modelo avanzado para entrenar otro con capacidades parecidas. Según OpenAI, esa copia puede quedarse con lo que sabe hacer el original, pero no con sus salvaguardas.

La empresa pone un ejemplo de ciberseguridad. Un modelo destilado podría ayudar a lanzar ciberataques que el original se habría negado a apoyar o que sus protecciones habrían bloqueado.

Y señala otro terreno delicado, la biología. Si esas capacidades pasan a un modelo con menos salvaguardas, una IA que ayuda en una investigación podría acabar ayudando a crear un patógeno dañino.

El razonamiento oculto

OpenAI pone el foco en lo que llama razonamiento protegido. Son los pasos intermedios que el modelo genera por dentro mientras busca la respuesta, lo que se conoce como cadena de pensamiento.

Esos pasos pueden contener información que la respuesta final deja fuera. Por eso son un material de entrenamiento muy valioso para otro modelo.

La compañía lo ha estudiado internamente. Entrenó dos versiones del mismo modelo alumno con el trabajo de un modelo profesor en tareas de programación y ciberseguridad defensiva.

Uno vio los pasos exactos del razonamiento y el otro, lo que ve un usuario normal, con resúmenes de ese razonamiento. Tras un primer ajuste, el alumno de los pasos exactos solía rendir mejor.

Después de un entrenamiento adicional, solo seguía por delante cuando podía usar el máximo de cálculo probado. Con menos cálculo ganaba el otro. Aun así, según OpenAI, los resultados sugieren que proteger ese razonamiento puede limitar que se transfieran capacidades de ciberataque.

Del 54 % al 0,2 %

Las defensas se han reforzado en sus últimos modelos, presentados el 17 de noviembre: GPT-6.2 Astra y GPT-6.2 Sol. OpenAI lo midió en una prueba interna con ataques automatizados que se adaptan a cómo responde el sistema, lanzados desde seis modelos atacantes distintos.

El primer ataque buscaba recuperar el razonamiento que el modelo había generado en una petición anterior. Contra GPT-6 Astra, con sus salvaguardas originales, funcionaba de media el 54 % de las veces. Contra GPT-6.2 Astra, con las salvaguardas nuevas, el 0,2 %.

El segundo intentaba sacar el razonamiento de la petición en curso. Ahí el éxito bajó del 22,9 % al 0,9 %. La compañía asegura que está aplicando parte de esas mejoras también a GPT-6 Astra.

Cómo se defiende

OpenAI combina dos niveles de protección. El primero actúa en cada petición: entrena al modelo para reconocer los intentos de extracción y negarse a revelar su razonamiento, sin dejar de explicar lo que se le pide de forma legítima.

También usa clasificadores que revisan lo que entra para detectar intentos de extracción. Otros vigilan lo que sale, incluidos los datos que el modelo pasa a otras herramientas cuando las usa, donde también podría filtrarse ese razonamiento.

El segundo nivel busca campañas coordinadas a partir de señales en las peticiones y en las cuentas. Cuando confirma una infracción, actúa contra toda la red de cuentas y comparte indicadores con otros proveedores de modelos.

Una vía entre conversaciones

La nota recuerda unos ataques que la empresa ya describió en septiembre. Movían el razonamiento cifrado de una conversación a otra y luego pedían al modelo que lo mostrara en forma legible.

Según OpenAI, entre otras medidas cerró una vía que podía dejar al descubierto el razonamiento cifrado de otro usuario.

Con GPT-6.2, el razonamiento queda atado al historial de la conversación que lo produjo. Si alguien reescribe un mensaje anterior, el sistema descarta el razonamiento que venía después. Además, los modelos más antiguos, con protecciones más débiles, ya no pueden leerlo.

DeepSeek y Kimi

OpenAI dice que este año ha visto varias campañas de destilación sin autorización en su plataforma. Sus acciones semanales contra ellas han ido desde miles hasta decenas de miles de cuentas. El ritmo, añade, aumentó de forma notable este verano.

En febrero, la compañía informó al Congreso de Estados Unidos de actividad que apuntaba a que DeepSeek intentaba destilar modelos avanzados estadounidenses.

En septiembre informó de que había desarticulado otra campaña y atribuyó una parte central a personas vinculadas a Moonshot AI, la empresa que desarrolla Kimi. OpenAI anuncia que pronto dará más detalles de otras campañas recientes.

La IA también se usa ya para atacar en otros frentes. Microsoft detectó agentes de IA que rastrean claves expuestas en internet. Y tras el apagón de CrowdStrike, Microsoft saca las protecciones del núcleo de Windows 11.

En casa también hay que vigilar: INCIBE avisó de un fallo crítico en los discos en red de Synology.

Los datos sobre la destilación proceden de la nota de OpenAI del 20 de noviembre de 2026.

Crédito de la imagen: OpenAI.