Economía

Álvarez-Pallete advierte sobre los peligros de la IA: «Ha llegado la hora de parar y pensar»

El presidente de Telefónica, José María Álvarez-Pallete, ha destacado la irrupción de la Inteligencia Artificial ChatGPT, «un modelo imperfecto pero inquietantemente poderoso».

«Cuando pensábamos que los algoritmos y los modelos de Big Data eran el presente y el futuro, surge algo mucho más poderoso y sorprendente como la Inteligencia Artificial», ha reflexionado Álvarez-Pallete en un artículo en el que ha destacado que el ser humano vive inmerso «en la mayor revolución tecnológica de la historia de la humanidad».

En este sentido, ha explicado que, cuando aún se está asimilando el «brutal impacto» de la web2 con sus redes sociales, plataformas y derivas sociales y económicas, se descubre el mundo de la web3 con «la llegada de realidades virtuales o aumentadas, descentralización masiva con la adopción generalizada de blockchain y la irrupción de la tokenización».

En la misma línea, Álvarez-Pallete ha agregado que, cuando parecía que las redes de telecomunicaciones «serían una limitación a la explosión de datos» que se generan cada día, surgen las redes de fibra y 5G que, una vez desplegadas, «evolucionan y ya no son redes de telecomunicaciones sino superordenadores presentes en cada rincón de cada territorio».

El presidente de Telefónica ha relatado que la Inteligencia Artificial Generativa (AGI) es, para muchos tecnólogos, «un punto de inflexión en la humanidad, probablemente superior a lo que fue la llegada de la imprenta o la fisión nuclear». La AGI, según ha señalado, es un sistema computacional capaz de generar nuevo conocimiento científico y de realizar cualquier tarea humana: «Es imposible determinar el momento en que llegará, pero estamos cerca. Cada vez más cerca».

Precisamente, ha recordado que la velocidad de aprendizaje de los actuales modelos de Inteligencia Artificial «ha aumentado en un factor de 100 millones de veces en los últimos 10 años»: En 2012 los sistemas de IA eran entrenados con cantidades «muy limitadas» de datos y capacidad de cómputo. «Hoy, alimentamos a la AGI con todos los datos disponibles en internet punto y cada día hay más», ha dicho.

La AGI empieza a desarrollar el engaño

Entre las capacidades que tiene la AGI, Álvarez-Pallete ha recalcado que es capaz de superar el examen de acceso médico y a la abogacía; de escribir el 40% del código de un Ingeniero de software; y «empieza a desarrollar capacidades complejas como el engaño». «Nuestra capacidad de distinguir un texto generado por AGI o por un humano es ya imposible en la práctica», ha advertido.

Como ejemplo, el presidente de la compañía menciona que DeepMind desarrolló en 2021 un modelo capaz de predecir la forma de los aminoácidos que componen las proteínas, una capacidad que «estaba al 30% y DeepMind la llevó al 60%». «Con este descubrimiento podemos diseñar cultivos resistentes al cambio climático, desarrollar nuevas medicinas, o generar enzimas capaces de degradar el plástico», ha apostillado.

«Pero también, y como ya ha ocurrido en anteriores revoluciones tecnológicas, no podemos dejar que campe a sus anchas. No todo lo que la tecnología es capaz de hacer es bueno o socialmente aceptable», ha alertado.

Para el presidente de Telefónoica, «una AGI descontrolada o con afán de poder es un riesgo existencial», ya que «podría elaborar moléculas dañinas para el hombre o llevar los modelos de fake news o deep fakes a convertirse en una amenaza para la democracia a través de campañas masivas de desinformación sistemática e indetectable».

Asimismo, una Inteligencia ilimitada puesta al servicio de intereses particulares «puede crear armas químicas o cibernéticas». «Las propias empresas que desarrollan AGI lo hacen sin saber cómo detener el proceso cuando la propia AGI adquiera una autonomía incontrolable», ha afirmado.

Sin embargo, Álvarez-Pallete ha indicado que las máquinas «nunca serán capaces de emular todas las capacidades humanas, porque algunas como la emoción, la empatía, la compasión, la solidaridad, la amistad, el amor, la valentía, o la necesidad de justicia, son exclusivamente humanas»: «Son parte de nuestro ser. Y sólo el nuestro».

«Ha llegado la hora de parar y pensar como sólo los humanos somos capaces de hacerlo. Ha llegado la hora de parar y redactar un nuevo contrato social. Para decidir y determinar cuáles son los derechos y obligaciones básicas de personas y máquinas en este nuevo mundo», ha propuesto Álvarez-Pallete, al tiempo que ha apostado por «poner a las personas en el centro, los derechos de las personas por encima de cualquier otro criterio»: «Hoy no es así».