Economía
TECNOLOGÍA

OpenAI se abre al desarrollo de la IA en proyectos militares: ChatGPT entrenará con datos confidenciales

La inteligencia artificial de la china Baidu, 'Ernie', está vinculada al ejército del gigante asiático

  • Benjamín Santamaría
  • Economista, analista, conferenciante y máster de educación. Redactor de economía en OKDIARIO y autor de "La economía a través del tiempo" en el Instituto Juan de Mariana

OpenAI, compañía creadora de ChatGPT, ha eliminado de sus políticas internas el principio que impedía usar su inteligencia artificial (IA) para usos militares. Por su parte, esta semana se ha conocido que la IA de la china Baidu, Ernie, está vinculada al ejército del gigante asiático. Especialistas consultados por OKDIARIO afirman que es posible que las fuerzas armadas de las grandes potencias busquen «entrenar esos modelos para adecuarlos a fines militares».

Iván Andrada, ingeniero informático especialista en IA generativa, asegura a este periódico que es posible «entrenar con datos confidenciales, es decir, con datos de secreto militar, a un modelo de GPT», algo que tendría como consecuencia «un modelo bien entrenado para fines militares».

«OpenAI ha montado ese modelo de lenguaje con trillones y trillones de petabytes de datos de Internet para entrenarlo», explica el especialista. Este entrenamiento podría replicarse con datos estratégicos del ejército que sirvieran para establecer pasos a seguir o para establecer tácticas militares. «La parte predictiva, la de visión por computador… Todo eso lo puede hacer una IA que haya recibido cantidades ingentes de documentación y de estrategias del mundo militar», sentencia Andrada.

Movimientos en OpenAI

Sam Altman, consejero delegado de OpenAI, fue despedido el pasado 11 de noviembre de la compañía por «pérdida de confianza». Microsoft fichó de forma inmediata al creador de ChatGPT. Sin embargo, la compañía que él fundó dio marcha atrás ante el peligro de que su equipo le acompañara al gigante tecnológico de Bill Gates.

Varios investigadores de OpenAI advirtieron a la junta directiva sobre el descubrimiento de una IA que podría amenazar a la humanidad. El aviso lo lanzaron sólo cuatro días antes de la destitución de Sam Altman como consejero delegado de la compañía.

OpenAI, que declinó hacer comentarios sobre este tema, pero reconoció internamente la existencia de un proyecto llamado Q* y una carta dirigida a la junta antes de los eventos con el fundador de la empresa. No obstante, un portavoz de OpenAI indicó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas innovaciones.

Pocos meses después de lo sucedido, OpenAI ha eliminado de sus políticas la prohibición de usar su tecnología para usos militares.

Políticas internas de ChatGPT antes del cambio. En ellas se puede ver la prohibición de usos militares de su tecnología.

Políticas internas de ChatGPT después del cambio. En ellas se puede ver que ha desaparecido la prohibición de usos militares de su tecnología.

La IA de OpenAI y el ejército

La IA, al igual que en cualquier otro sector, tiene multitud de aplicaciones dentro del mundo militar. Si OpenAI decide colaborar con el ejército, su IA generativa puede servir para crear, a su vez, otro tipo de inteligencias artificiales, según las fuentes del sector consultadas por este periódico.

La IA «se suele utilizar (en el mundo militar) para el reconocimiento y la vigilancia. Se utilizan algoritmos de visión por computador, deep learning con redes neuronales convolucionales para el análisis de imágenes y de videos. Por ejemplo, en sistemas de reconocimiento facial para identificar objetivos específicos en una zona de guerra o en una base. En España lo están implantando», explica Iván Andrada.

Esta tecnología también se usa para el «análisis de datos, es decir, todo lo que viene siendo procesado de lenguaje natural, machine learning y análisis predictivo para hacer todo tipo de predicciones que sirven a nivel estratégico». La IA es capaz de «reconocer algunos patrones y proporcionar evaluaciones precisas», explica el informático.

El ejército puede usar estos modelos «para predecir comportamientos futuros de un país». Además, la tecnología se utiliza en «sistemas autónomos, como vehículos autónomos». Los «algoritmos de planificación permiten autonomía de vehículos no tripulados y sistemas de armas».

Además, los militares pueden aprovecharse de «las traducciones automáticas».»La gente entre dos países que no hablan el mismo idioma puede usar un sistema de reconocimiento de voz basado en redes neuronales y NLP que haga un sistema de comunicación que traduzca de forma casi automática lo que dice una persona con otro idioma», asegura el especialista en IA. Esta herramienta puede servir para prescindir del inglés en las relaciones entre soldados de diferente lenguaje.

Por tanto, la apertura de OpenAI puede servir para que su IA generativa se extienda al ejército americano. China ya está aplicando esta tecnología en sus fuerzas armadas. Por tanto, es posible que se genere cierta rivalidad entre ambas potencias, una carrera hacia la más avanzada inteligencia artificial.