Bill Gates, cofundador de Microsoft, sobre la IA: «No basta con tener un interruptor apagado»

Bill Gates ha vuelto a pronunciarse sobre los peligros de la inteligencia artificial más avanzada. En una entrevista televisiva, el cofundador de Microsoft afirmó que «la IA es sin duda lo suficientemente poderosa como para provocar acontecimientos que causen 1.000 millones de muertes». No se trata de una predicción. Según Gates, su principal temor no es que los sistemas actúen por su cuenta, sino el uso que puedan darles algunas personas: «Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas».

El empresario tampoco confía en el llamado interruptor de apagado, la idea de dotar a estos sistemas de un mecanismo para desconectarlos si empiezan a comportarse de forma peligrosa. «No basta con tener un interruptor de apagado», sostuvo. A su juicio, apagar un sistema es una medida de emergencia que solo se activa cuando el daño ya se ha producido. Lo necesario, dice, es vigilar estos sistemas de forma continua y contar con mecanismos de control previos.

Gates reconoció, no obstante, que los sistemas actuales todavía no son capaces de tomar el control de los ordenadores por sí solos ni de impedir que los apaguen.

Más regulación y menos autocontrol

Las declaraciones se produjeron en el programa Meet the Press, de la cadena estadounidense NBC. Cuando le preguntaron si el Gobierno de Estados Unidos debería legislar sobre la IA, Gates respondió: «Absolutamente». Añadió que «nadie piensa que la autorregulación sea suficiente».

Según recogen varios medios estadounidenses, Gates defendió que las fuerzas del orden y los políticos participen en la definición de esas salvaguardas y que su cumplimiento sea obligatorio. Admitió que esa regulación supondría ciertos costes para el sector, aunque cree que no frenaría de forma drástica su desarrollo. También señaló que, a diferencia de otras tecnologías peligrosas, la IA ha surgido del sector privado. Por eso, a su juicio, los gobiernos entienden peor dónde están sus umbrales de riesgo.

Estas ideas ya aparecían en un ensayo que Gates publicó a finales de agosto. En él advertía de los riesgos del avance de la IA y de la necesidad de prepararse para sus consecuencias.

Un debate en plena ebullición

La intervención llega en un momento en que la palabra extinción ha vuelto a ocupar el centro de la conversación sobre la IA. El debate se ha avivado en las últimas semanas a raíz de un mensaje viral de un antiguo empleado de Anthropic que situaba en un 10 % la probabilidad de que la IA acabe con la humanidad en la próxima década. Gates no ofreció ningún porcentaje.

La regulación es otro de los frentes abiertos. Dario Amodei, consejero delegado de Anthropic, defendió en una carta pública que la forma más eficaz de frenar los riesgos sería una regulación que se aplicara por igual a todas las empresas del sector. Algunos críticos interpretaron esa propuesta como un intento de captura regulatoria que acabaría beneficiando a las grandes compañías.

En el plano político, el gobernador de California, Gavin Newsom, firmó este mes una orden ejecutiva para acelerar la supervisión de la IA. La orden contempla, entre otras medidas, un interruptor de apagado de emergencia para los modelos más avanzados.