Empleados de OpenAI alertaron sobre una peligrosa inteligencia artificial antes del despido de Altman

• Benjamín Santamaría @benjaefe
• Economista, analista, conferenciante y máster de educación con especialidad en Economía. Redactor de economía y empresas en OKDIARIO y autor de 'La economía a través del tiempo' en el Instituto Juan de Mariana. Miembro de la junta directiva del Centro Diego de Covarrubias.
• • 23/11/2023 09:59
  • Actualizado: 23/11/2023 09:59

Varios investigadores de OpenAI advirtieron a la junta directiva sobre el descubrimiento de una inteligencia artificial que podría amenazar a la humanidad tan sólo cuatro días antes de la destitución de Sam Altman como consejero delegado de la compañía.

Los empleados de la empresa desarrolladora de ChatGPT escribieron una carta que fue decisiva para el despido de Altman, según informa la agencia Reuters. OpenAI revocó la destitución tras el reclamo de cerca del 90% de la plantilla. Los trabajadores amenazaron con unirse a Microsoft igual que el fundador de la tecnológica.

La carta de los empleados de OpenAI

Las fuentes de Reuters mencionaron la carta como uno de los varios motivos que llevaron al despido de Altman por parte de la junta, junto con otras preocupaciones sobre la comercialización de avances antes de comprender completamente sus consecuencias de la inteligencia artificial.

OpenAI, que declinó hacer comentarios públicos, reconoció internamente la existencia de un proyecto llamado Q* y una carta dirigida a la junta antes de los eventos del fin de semana. Un portavoz de OpenAI indicó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas innovaciones.

La Inteligencia Artificial General

Los expertos en inteligencia artificial consideran que las matemáticas representan un desafío significativo en el desarrollo de la IA generativa. En la actualidad, este tipo de inteligencia artificial destaca en tareas como la redacción y la traducción de idiomas, al prever estadísticamente la siguiente palabra. Sin embargo, en situaciones matemáticas, donde existe una única respuesta correcta, conquistar esa capacidad implicaría que la IA tendría habilidades de razonamiento más avanzadas, acercándose así a la inteligencia humana. Los investigadores de IA sugieren que este avance podría tener aplicaciones en investigaciones científicas novedosas.

Una AGI, o Inteligencia General Artificial, se refiere a un tipo de inteligencia artificial capaz de aprender, comprender y aplicar conocimientos en una amplia variedad de tareas, de manera similar a un ser humano. A diferencia de las actuales IA especializadas en tareas concretas, una AGI tendría la flexibilidad para llevar a cabo cualquier trabajo intelectual que un humano pueda realizar.

El proyecto Q* (Q star) de OpenAI se vislumbra como un avance hacia la AGI, superando a los humanos en tareas de valor económico. Q* demostró la capacidad de resolver problemas matemáticos a nivel de primaria, generando optimismo sobre su éxito futuro. La carta a la junta señalaba el poder y el potencial peligro de la IA, aunque no especificaba las preocupaciones exactas de seguridad. OpenAI estaba optimizando modelos de IA existentes para mejorar su razonamiento y, eventualmente, realizar trabajo científico.