La Inteligencia Artificial avanza a gran velocidad, mucho más de lo que podías imaginar hace apenas tres años cuando comenzaron a popularizarse los primeros modelos. Pero esta velocidad, ya no solo dependen de las personas que se encargan de que funcione, ella misma va incluso más deprisa que la capacidad humana para explicar, incluso para entender, como funciona. Así lo afirma Demis Hassabis, alertando de que estamos justo en ese momento con los modelos de inteligencia artificial más avanzados. Por eso, pide que exista una supervisión que implique a todos los actores internacionales antes de que se vuelva incontrolable y crezca aún más.
Demis Hassabis es presidente del laboratorio y científico jefe de Alphabet, aunque esta propuesta la publicó el pasado 14 de julio, cuando ocupaba el puesto de consejero delegado de Google DeepMind. Este nuevo puesto le permite tener más tiempo para poder ocuparse de estos preocupantes aspectos respecto a la IA.
La AGI podría estar cerca
La inteligencia artificial general, también denominada AGI, sería un sistema que pudiese hacer frente a todo el conjunto de tareas cognitivas humanas y no solamente hablar, programar o crear imágenes. Hassabis opina que esta podría llegar en «pocos años», aunque no una fecha compartida por toda la comunidad científica.
Para describir este salto, compara la AGI con la electricidad o el fuego, y no con internet o el teléfono móvil. También espera beneficios en el ámbito de los fármacos o la energía limpia, una ambición que conecta con trabajos como el de AlphaFold, que, por ejemplo, puede predecir estructuras de proteínas en cuestión de minutos.
Una carrera difícil de controlar
Existen unos sistema llamado modelos de frontera, con una elevada capacidad y disponibles en cada momento. Su desarrollo, según la advertencia de Hassabis, se está acelerando por las competencias comerciales y geopolítica, hasta tal punto que «los avances están superando nuestra comprensión de la tecnología».
Lo que más le preocupan son los posibles nuevos ciberataques, y los usos tanto biológicos o nucleares, así como sistemas cada vez más autónomos capaces de superar cualquier obstáculo de cualquier índole. El mayor problema, según recoge el informe Internacional sobre Seguridad de la IA, es que las capacidades siguen aumentando, y lo hacen sobre muchas lagunas y dudas sobre la eficacia real de algunas defensas.
Un organismo antes de cada lanzamiento
Su propuesta consiste en crear en EEUU un organismo técnico de estándares, financiado en gran parte por la industria, pero bajo la supervisión del Gobierno federal. Tomaría como modelo a FINRA, una organización privada sin ánimo de lucro que supervisa a los diferentes intermediarios financieros bajo la supervisión de la Comisión de Valores de Estados Unidos.
A cambio, los laboratorios entregarían voluntariamente los modelos más potentes al menos 30 días antes de su lanzamiento. Las pruebas servirían para detectar posibles capacidades peligrosas en ciberseguridad y biología, señales de engaño y formas de eludir los controles, actualizando las evaluaciones cada pocos meses.
La propuesta todavía no es una norma
En caso de que el sistema de evaluación fuera eficiente, podría terminar por ser obligatorio. Este plan contaría con otra gran ventaja, la coordinación para poder frenar a la IA entre laboratorios si se detectara un riesgo elevado, al mismo tiempo que aplicaría estos mismos criterios a modelos abiertos y cerrados, fuera cual fuese su país de origen.
De momento esto es un manifiesto persona, una advertencia, pero ni mucho menos una regulación que se haya o se vaya a aprobar, ni existe ningún acuerdo internacional al respecto. Pero en este sentido, Google DeepMind ya está utilizando un Marco de Seguridad Fronteriza propio, que puede detectar capacidades críticas que escapen a su configuración inicial, para preparar medidas preventivas. La idea es que esta lógica que ya aplican se expandan a una institución común y con alcance internacional.
El manifiesto oficial se ha publicado en Substack de Demis Hassabis.
