Empleados de OpenAI alertaron sobre una peligrosa inteligencia artificial antes del despido de Altman
La nueva inteligencia artificial podría ser capaz de realizar operaciones complejas y comprender conceptos
Varios investigadores de OpenAI advirtieron a la junta directiva sobre el descubrimiento de una inteligencia artificial que podría amenazar a la humanidad tan sólo cuatro días antes de la destitución de Sam Altman como consejero delegado de la compañía.
Los empleados de la empresa desarrolladora de ChatGPT escribieron una carta que fue decisiva para el despido de Altman, según informa la agencia Reuters. OpenAI revocó la destitución tras el reclamo de cerca del 90% de la plantilla. Los trabajadores amenazaron con unirse a Microsoft igual que el fundador de la tecnológica.
La carta de los empleados de OpenAI
Las fuentes de Reuters mencionaron la carta como uno de los varios motivos que llevaron al despido de Altman por parte de la junta, junto con otras preocupaciones sobre la comercialización de avances antes de comprender completamente sus consecuencias de la inteligencia artificial.
OpenAI, que declinó hacer comentarios públicos, reconoció internamente la existencia de un proyecto llamado Q* y una carta dirigida a la junta antes de los eventos del fin de semana. Un portavoz de OpenAI indicó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas innovaciones.
La Inteligencia Artificial General
Los expertos en inteligencia artificial consideran que las matemáticas representan un desafío significativo en el desarrollo de la IA generativa. En la actualidad, este tipo de inteligencia artificial destaca en tareas como la redacción y la traducción de idiomas, al prever estadísticamente la siguiente palabra. Sin embargo, en situaciones matemáticas, donde existe una única respuesta correcta, conquistar esa capacidad implicaría que la IA tendría habilidades de razonamiento más avanzadas, acercándose así a la inteligencia humana. Los investigadores de IA sugieren que este avance podría tener aplicaciones en investigaciones científicas novedosas.
Una AGI, o Inteligencia General Artificial, se refiere a un tipo de inteligencia artificial capaz de aprender, comprender y aplicar conocimientos en una amplia variedad de tareas, de manera similar a un ser humano. A diferencia de las actuales IA especializadas en tareas concretas, una AGI tendría la flexibilidad para llevar a cabo cualquier trabajo intelectual que un humano pueda realizar.
El proyecto Q* (Q star) de OpenAI se vislumbra como un avance hacia la AGI, superando a los humanos en tareas de valor económico. Q* demostró la capacidad de resolver problemas matemáticos a nivel de primaria, generando optimismo sobre su éxito futuro. La carta a la junta señalaba el poder y el potencial peligro de la IA, aunque no especificaba las preocupaciones exactas de seguridad. OpenAI estaba optimizando modelos de IA existentes para mejorar su razonamiento y, eventualmente, realizar trabajo científico.
Lo último en Economía
-
Telefónica sufre pérdidas de 1.355 millones pero se debe a la venta de filiales en Hispanoamérica
-
Revisa tu cuenta porque es inminente: la sorpresa de Hacienda que afecta a estas personas
-
Adiós a comprar los domingos si vives en ésta ciudad: la ley que cambia todo y te afecta de lleno
-
El insólito pronóstico de un experto en economía sobre lo que va a pasar con el precio de la vivienda en España
-
El BOE lo confirma y no hay vuelta atrás: el cambio en el IRPF que afecta a estos trabajadores
Últimas noticias
-
Alerta por tsunami y terremoto en Rusia, en directo: última hora del terremoto de magnitud 8,8
-
La juez de la DANA ataca a la Guardia Civil por demostrar en su informe la pasividad del Júcar y la AEMET
-
Una española va a una boda en Estados Unidos y lo que enseña no deja indiferente a nadie en España
-
Calvià recuerda a las dos últimas víctimas de ETA en España 16 años después del atentado de Palmanova
-
Alarma en Ávila: confinada la localidad de El Arenal por el avance del incendio de Cuevas del Valle