Richard Stallman (73 años), padre del software libre: ”La gente suele usar el término inteligencia artificial para cosas que no son inteligentes en absoluto”

El fundador del software libre y del Proyecto GNU, Richard Stallman, vuelve a preguntarse sobre el lenguaje alrededor de la inteligencia artificial. En una conferencia celebrada el 23 de enero de 2025 en el Instituto Tecnológico de Georgia, aclaró que muchos sistemas de hoy día tienen una etiqueta que exagera lo que realmente hacen.

En su discurso no dijo que dichas herramientas carecían de utilidad, sino que se centró en diferenciar entre producir una respuesta convincente y comprender su significado. También habló del riesgo de confiar en programas que parecen seguros pero que son capaces de equivocarse.

¿Qué dijo Stallman?

Stallman dijo en palabras suyas, “La gente suele usar el término inteligencia artificial para cosas que no son inteligentes en absoluto”. Además, aclaró que los grandes modelos de lenguaje generan texto, aunque realmente, no entiende el significado de ese texto.

El fundador Stallman propuso una expresión inglesa, “Pretend Intelligence” o traducido al español “Inteligencia fingida”, para referirse a la distancia entre significados. Con esta expresión quiere criticar lo que considera una campaña de marketing que hace que estos sistemas parezcan más fiables de lo que realmente son.

¿Cómo generan sus respuestas?

Cuando se trata de un gran modelo de lenguaje, este aprende regularidades a partir de grandes colecciones de texto. Luego, calcula cuál es el fragmento que mejor encaja y así lo repite, hasta que construye una respuesta. Es algo parecido a un autocompletado muy complejo.

Por tanto, el resultado puede ser de utilidad como resumen, traducir o redactar, pero es posible que contenga datos falsos y los cuales expresa con mucha seguridad. Desde el Instituto Nacional de Estándares y Tecnología de Estados Unidos se le llama “confabulación” al contenido erróneo o inventado. Por ello, es necesario verificar la exactitud y las fuentes reales.

Esta crítica de Stallman no cambia la definición más aceptada, la cual considera IA a los sistemas que son capaces de hacer predicciones, crear contenidos, dar recomendaciones o tomar decisiones a partir de la información que reciben.

El concepto quedó relacionado con el proyecto de Dartmouth, propuesto en 1955 y desarrollado en 1956. La definición actual tampoco dice que estos sistemas tengan que pensar, sentir o tener conciencia como una persona.

¿Es posible que una herramienta potente no comprenda como nosotros? Esta es la pregunta que se formula Stallman. El aviso puede ser práctico cuando una respuesta fluida nos hace olvidarnos de comprobar cifras, fuentes o el contexto.

La pregunta cuadra con la defensa histórica del software libre de Stallman. Hasta donde sabe el fundador, esos sistemas no son software libre y por tanto, no darían libertad para estudiar, modificar o comparar el programa que promueve la Free Software Foundation.

Si deseas ver la conferencia completa puedes verla en Youtube.