Una sola frase reabri\u00f3 uno de los debates m\u00e1s inc\u00f3modos de la tecnolog\u00eda. El 30 de mayo de 2023, el Centro para la Seguridad de la IA pidi\u00f3 tratar la posible extinci\u00f3n causada por sistemas avanzados como una prioridad mundial comparable a las pandemias o la guerra nuclear. La declaraci\u00f3n fue respaldada por Sam Altman, Demis Hassabis, Dario Amodei, Geoffrey Hinton y Yoshua Bengio.<\/p>\n\n\n\n
Eso no significa que ChatGPT<\/a> vaya a provocar el fin del mundo ma\u00f1ana. La advertencia se refiere sobre todo a una futura \u201csuperinteligencia\u201d, un sistema capaz de superar ampliamente a los humanos en muchas tareas y actuar a gran escala. Nadie sabe si ese escenario llegar\u00e1, pero algunos especialistas creen que esperar a tener pruebas definitivas ser\u00eda demasiado tarde.<\/p>\n\n\n\n \u201cMitigar el riesgo de extinci\u00f3n por la IA deber\u00eda ser una prioridad mundial junto con otros riesgos sociales como las pandemias y la guerra nuclear\u201d, se\u00f1al\u00f3 la organizaci\u00f3n. El mensaje no fij\u00f3 una fecha ni calcul\u00f3 la probabilidad de que ocurra. Su fuerza estaba en qui\u00e9nes lo apoyaban.<\/p>\n\n\n\n Entre los firmantes figuraban los m\u00e1ximos responsables en 2023 de OpenAI, Google DeepMind y Anthropic. \u00bfPor qu\u00e9 una frase tan contundente? El centro explic\u00f3 que buscaba abrir una conversaci\u00f3n que suele quedar atrapada entre tecnicismos y ciencia ficci\u00f3n.<\/p>\n\n\n\n Un riesgo existencial es una amenaza capaz de eliminar a la humanidad o reducir de forma irreversible su capacidad para decidir el futuro. Aqu\u00ed no se habla solo de un robot que \u201cse rebela\u201d, como en una pel\u00edcula. El temor incluye sistemas dif\u00edciles de controlar<\/a>, usos maliciosos y una carrera empresarial que premie la velocidad antes que la seguridad.<\/p>\n\n\n\n Un sistema mucho m\u00e1s capaz podr\u00eda ejecutar una meta mal formulada de manera da\u00f1ina, seg\u00fan quienes apoyan la advertencia. Tambi\u00e9n podr\u00eda ayudar a lanzar ciberataques<\/a>, crear armas o manipular informaci\u00f3n a una escala in\u00e9dita. Son hip\u00f3tesis sobre tecnolog\u00edas futuras, no hechos demostrados por los chatbots actuales.<\/p>\n\n\n\n OpenAI propuso en mayo de 2023 una autoridad internacional para supervisar la superinteligencia<\/a> capaz de inspeccionar y auditar los sistemas que superasen cierto nivel de potencia. La idea se parec\u00eda al control de la energ\u00eda nuclear. Hay una tensi\u00f3n evidente, ya que las mismas empresas que alertan del peligro compiten por construir modelos cada vez m\u00e1s capaces.<\/p>\n\n\n\n Geoffrey Hinton, Yoshua Bengio y Yann LeCun compartieron el Premio Turing de 2018 por avances que convirtieron las redes neuronales profundas en una pieza central de la inform\u00e1tica. Pero sus conclusiones son distintas. Hinton y Bengio apoyaron la declaraci\u00f3n, mientras LeCun rechaz\u00f3 p\u00fablicamente los relatos apocal\u00edpticos como una exageraci\u00f3n.<\/p>\n\n\n\n El inform\u00e1tico de Princeton Arvind Narayanan, junto con Seth Lazar y Jeremy Howard, sostuvo en un an\u00e1lisis sobre el riesgo de extinci\u00f3n que otros da\u00f1os<\/a> son m\u00e1s urgentes. La IA ya puede reforzar desigualdades, concentrar poder o ser utilizada de forma irresponsable. Mirar solo a una m\u00e1quina futura fuera de control puede dejar esos problemas en segundo plano.<\/p>\n\n\n\n El Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda de Estados Unidos tambi\u00e9n se\u00f1ala riesgos como el sesgo, la falta de fiabilidad y la p\u00e9rdida de privacidad. No hace falta imaginar un ordenador todopoderoso para ver consecuencias. Basta con un sistema que rechaza injustamente un cr\u00e9dito, inventa informaci\u00f3n m\u00e9dica o facilita una estafa.<\/p>\n\n\n\n Dos meses antes, el Future of Life Institute hab\u00eda pedido detener durante al menos seis meses el entrenamiento de sistemas m\u00e1s potentes que GPT-4. La carta del 22 de marzo de 2023 reclamaba protocolos compartidos, auditor\u00edas externas y nuevas autoridades reguladoras. Reuni\u00f3 decenas de miles de firmas.<\/p>\n\n\n\n Una pausa mundial exig\u00eda acordar qu\u00e9 significa \u201cm\u00e1s potente\u201d, qui\u00e9n podr\u00eda comprobarlo y qu\u00e9 ocurrir\u00eda con los laboratorios que no participasen. La suspensi\u00f3n coordinada no se materializ\u00f3. La competici\u00f3n continu\u00f3, aunque el debate pas\u00f3 de los laboratorios a los gobiernos.<\/p>\n\n\n\n En noviembre de 2023, veintiocho pa\u00edses, junto con la Uni\u00f3n Europea, respaldaron la Declaraci\u00f3n de Bletchley<\/a> sobre el desarrollo seguro de la IA avanzada. El acuerdo no prohibi\u00f3 nuevos modelos, pero impuls\u00f3 la cooperaci\u00f3n y las pruebas de seguridad. Fue un paso m\u00e1s concreto que una advertencia de una sola frase.<\/p>\n\n\n\n La declaraci\u00f3n sobre la extinci\u00f3n no es un estudio experimental ni demuestra que los sistemas<\/a> actuales puedan acabar con la humanidad. Es una llamada preventiva sobre lo que podr\u00eda ocurrir si aparecen m\u00e1quinas mucho m\u00e1s capaces sin controles suficientes. Conviene leerla como una alarma, no como una fecha marcada en el calendario.<\/p>\n\n\n\n Una regulaci\u00f3n \u00fatil tendr\u00eda que mirar en dos direcciones. Deber\u00eda vigilar los posibles da\u00f1os extremos y, al mismo tiempo, exigir transparencia, pruebas independientes y responsabilidad por los perjuicios actuales. Una cosa no deber\u00eda borrar la otra.<\/p>\n\n\n\n El debate sigue abierto porque el riesgo futuro no puede medirse con la misma precisi\u00f3n que un da\u00f1o ya observado.<\/p>\n\n\n\n La declaraci\u00f3n oficial se ha publicado en el Centro para la Seguridad de la IA<\/a><\/em>.<\/p>\n","protected":false},"excerpt":{"rendered":" Una sola frase reabri\u00f3 uno de los debates m\u00e1s inc\u00f3modos de la tecnolog\u00eda. El 30 de mayo de 2023, el … <\/p>\nUna advertencia de una frase<\/h2>\n\n\n\n
Lea tambi\u00e9n: Un experto de la Universidad de Cambridge destapa el mayor secreto de la IA: Google tiene un equipo investigando si la Inteligencia Artificial es consciente<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n
De qu\u00e9 peligro hablan<\/h2>\n\n\n\n
Lea tambi\u00e9n: Casi nadie lo sabe pero hay un cable mucho mejor que el HDMI que va a transformar tu televisi\u00f3n en una pantalla de cine<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n
Los pioneros no piensan igual<\/h2>\n\n\n\n
Lea tambi\u00e9n: La soluci\u00f3n al mayor problema del mundo de la IA est\u00e1 donde literalmente no hay nada, s\u00f3lo energ\u00eda gratis refrigerada de forma natural<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n
La pausa que no lleg\u00f3<\/h2>\n\n\n\n
Lea tambi\u00e9n: Luz verde al proyecto de Google para instalar un cable submarino gigante que va a cruzar el mundo entero<\/a><\/h4>\n<\/div>\n<\/div><\/div>\n<\/div>\n\n\n\n
Qu\u00e9 cambia para el p\u00fablico<\/h2>\n\n\n\n