Empleados de OpenAI alertaron sobre una peligrosa inteligencia artificial antes del despido de Altman
La nueva inteligencia artificial podría ser capaz de realizar operaciones complejas y comprender conceptos
Varios investigadores de OpenAI advirtieron a la junta directiva sobre el descubrimiento de una inteligencia artificial que podría amenazar a la humanidad tan sólo cuatro días antes de la destitución de Sam Altman como consejero delegado de la compañía.
Los empleados de la empresa desarrolladora de ChatGPT escribieron una carta que fue decisiva para el despido de Altman, según informa la agencia Reuters. OpenAI revocó la destitución tras el reclamo de cerca del 90% de la plantilla. Los trabajadores amenazaron con unirse a Microsoft igual que el fundador de la tecnológica.
La carta de los empleados de OpenAI
Las fuentes de Reuters mencionaron la carta como uno de los varios motivos que llevaron al despido de Altman por parte de la junta, junto con otras preocupaciones sobre la comercialización de avances antes de comprender completamente sus consecuencias de la inteligencia artificial.
OpenAI, que declinó hacer comentarios públicos, reconoció internamente la existencia de un proyecto llamado Q* y una carta dirigida a la junta antes de los eventos del fin de semana. Un portavoz de OpenAI indicó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas innovaciones.
La Inteligencia Artificial General
Los expertos en inteligencia artificial consideran que las matemáticas representan un desafío significativo en el desarrollo de la IA generativa. En la actualidad, este tipo de inteligencia artificial destaca en tareas como la redacción y la traducción de idiomas, al prever estadísticamente la siguiente palabra. Sin embargo, en situaciones matemáticas, donde existe una única respuesta correcta, conquistar esa capacidad implicaría que la IA tendría habilidades de razonamiento más avanzadas, acercándose así a la inteligencia humana. Los investigadores de IA sugieren que este avance podría tener aplicaciones en investigaciones científicas novedosas.
Una AGI, o Inteligencia General Artificial, se refiere a un tipo de inteligencia artificial capaz de aprender, comprender y aplicar conocimientos en una amplia variedad de tareas, de manera similar a un ser humano. A diferencia de las actuales IA especializadas en tareas concretas, una AGI tendría la flexibilidad para llevar a cabo cualquier trabajo intelectual que un humano pueda realizar.
El proyecto Q* (Q star) de OpenAI se vislumbra como un avance hacia la AGI, superando a los humanos en tareas de valor económico. Q* demostró la capacidad de resolver problemas matemáticos a nivel de primaria, generando optimismo sobre su éxito futuro. La carta a la junta señalaba el poder y el potencial peligro de la IA, aunque no especificaba las preocupaciones exactas de seguridad. OpenAI estaba optimizando modelos de IA existentes para mejorar su razonamiento y, eventualmente, realizar trabajo científico.
Lo último en Economía
-
La UE reduce sus compras a Rusia en el primer trimestre pero aumenta sus exportaciones en 620 millones
-
Isabel Rodríguez habla de SOS de la vivienda por el alquiler turístico pero sólo supone el 1,8% del total
-
Aviso de Hacienda a los mayores de 65 que quieren vender su casa: la trampa de la que nadie habla
-
Giro de 180º en todos los cajeros de España: llega en junio y no estás preparado
-
Aviso del Banco de España si pagas el alquiler por transferencia bancaria: no estás preparado
Últimas noticias
-
Sánchez endurece sus ataques a Israel: quiere sanciones, embargo de armas y que la UE rompa relaciones
-
Álex Palou se convierte en el primer español en ganar las 500 millas de Indianápolis
-
Flick tras su último partido de la temporada: «Ha sido una despedida perfecta»
-
Así termina la clasificación de la Liga tras la disputa de la última jornada
-
El Gobierno regulariza la compra de votos