Economía
TECNOLOGÍA

Elon Musk demanda a OpenAI y a Sam Altman por anteponer el lucro al beneficio de la humanidad

OpenAI eliminó de sus políticas internas el principio que impedía usar su IA para usos militares

  • Benjamín Santamaría
  • Economista, analista, conferenciante y máster de educación. Redactor de economía en OKDIARIO y autor de "La economía a través del tiempo" en el Instituto Juan de Mariana

El magnate sudafricano Elon Musk ha presentado una demanda contra la empresa desarrolladora de inteligencia artificial OpenAI y contra su director ejecutivo y fundador, Sam Altman. El motivo de la reyerta judicial es que el propietario de la red social X considera que la creadora de ChatGPT ha antepuesto su propio lucro al «beneficio de la humanidad» en contra de los principios que regían la entidad en su fundación.

OpenAI eliminó de sus políticas internas el principio que impedía usar su IA para usos militares. Por su parte, Sam Altman, consejero delegado de la entidad, fue despedido el pasado 11 de noviembre de la compañía por «pérdida de confianza». Microsoft fichó de forma inmediata al creador de ChatGPT. Sin embargo, la compañía que él fundó dio marcha atrás ante el peligro de que su equipo le acompañara al gigante tecnológico de Bill Gates.

Sam Altman, consejero delegado de OpenAI.

Varios investigadores de OpenAI advirtieron a la junta directiva sobre el descubrimiento de una IA que podría amenazar a la humanidad. El aviso lo lanzaron sólo cuatro días antes de la destitución de Sam Altman como consejero delegado de la compañía.

OpenAI, que declinó hacer comentarios sobre este tema, pero reconoció internamente la existencia de un proyecto llamado Q* y una carta dirigida a la junta antes de los eventos con el fundador de la empresa. No obstante, un portavoz de OpenAI indicó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas innovaciones. Pocos meses después de lo sucedido, OpenAI eliminó de sus políticas la prohibición de usar su tecnología para usos militares.

Denuncia de Musk a OpenAI

Según publica Bloomberg, el empresario multimillonario, que ayudó a financiar OpenAI en sus inicios, estima que la estrecha relación entre OpenAI y Microsoft ha socavado la misión original de la sociedad de crear una tecnológica de código abierto que no estuviera sujeta a las prioridades corporativas de una compañía.

Musk, el director ejecutivo de Tesla, el dueño de Twitter y fundador de Space X, ha advertido en varias ocasiones de los peligros de la IA y de la IA generativa.

En la demanda, a la que alude esta agencia, explica que OpenAI ha dejado de ser una compañía de código abierto y se ha transformado en una subsidiaria de facto de Microsoft, la empresa de tecnología más grande del mundo.

Musk se ha referido en la demanda, presentada en un tribunal de San Francisco, a la reestructuración el año pasado de la junta directiva de OpenAI, cuando Altman fue destituido como director ejecutivo y luego rápidamente repuesto con el apoyo de Microsoft.

El empresario ha argumentado que Altman, el presidente de OpenAI, Greg Brockman, y Microsoft trabajaron juntos para destituir a la mayoría de la junta directiva de la startup (empresa emergente), que había sido responsable de hacer cumplir su misión original de desarrollar tecnología para el beneficio de la humanidad.

La nueva Junta estaba formada por miembros con más experiencia en empresas o política centrada en el beneficio económico, que en ética y gobernanza de la IA.

La demanda tendrá implicaciones no sólo para OpenAI, que quiere recabar fondos por 100.000 millones de dólares o más, sino también para Microsoft, según explica Bloomberg.

Los expertos en inteligencia artificial consideran que las matemáticas representan un desafío significativo en el desarrollo de la IA generativa. En la actualidad, este tipo de inteligencia artificial destaca en tareas como la redacción y la traducción de idiomas, al prever estadísticamente la siguiente palabra.

Sin embargo, en situaciones matemáticas, donde existe una única respuesta correcta, conquistar esa capacidad implicaría que la IA tendría habilidades de razonamiento más avanzadas, acercándose así a la inteligencia humana. Los investigadores de IA sugieren que este avance podría tener aplicaciones en investigaciones científicas novedosas.

Una AGI, o Inteligencia General Artificial, se refiere a un tipo de inteligencia artificial capaz de aprender, comprender y aplicar conocimientos en una amplia variedad de tareas, de manera similar a un ser humano. A diferencia de las actuales IA especializadas en tareas concretas, una AGI tendría la flexibilidad para llevar a cabo cualquier trabajo intelectual que un humano pueda realizar.

El proyecto Q* (Q star) de OpenAI se vislumbra como un avance hacia la AGI, superando a los humanos en tareas de valor económico. Q* demostró la capacidad de resolver problemas matemáticos a nivel de primaria, generando optimismo sobre su éxito futuro.

La carta a la junta señalaba el poder y el potencial peligro de la IA, aunque no especificaba las preocupaciones exactas de seguridad. OpenAI estaba optimizando modelos de IA existentes para mejorar su razonamiento y, eventualmente, realizar trabajo científico.