Derechos y deberes digitales

En días pasados, sucedió un hecho, que tú, mi querido lector, deberías estar aplaudiendo con las orejas: Amazon detuvo la venta de su sistema de reconocimiento facial Rekognition.

¿Te estás preguntado: en qué me afecta a mí eso? Déjame contarte una de las peores pesadillas, a las que, como humanidad, podemos abocarnos en un futuro no muy lejano: el reconocimiento facial.

Este sistema, que como su nombre indica, sirve para reconocer. ¿Y cómo lo hace? Tomando fotos en sitios públicos y privados para cruzarlas con bases de datos. ¿Y de dónde salen estos datos? ¿Recuerdas cuándo has entregado alegremente tus datos personales, o fotos en aplicaciones para verte más joven o viejo o esos sorteos, o rifas a las que te apuntaste? Pues en muchos casos, estos sitios son poco fiables. En otros casos, los datos provienen de la empresa o Gobierno que los contrató.

Este sistema es el mismo que utiliza el Gobierno chino para controlar a sus ciudadanos, o sea, 1.984 de George Orwell en su máxima expresión. Países como Francia, Reino Unido, Rusia,  Israel, y Estados Unidos, entre otros, ya cuentan con pruebas piloto, e incluso, ya se ha llegado a utilizar como pruebas en juicios. Recuerden el caso del español Pablo Ibar, que está condenado a cadena perpetua en Florida por decisión de un algoritmo,  y en cuyo juicio nunca se ha llegado a presentar una prueba concluyente de su culpabilidad.

Actualmente, como esta tecnología no está completamente reglamentada, juega en el reino de la alegalidad. Por ello, y ante la presión de asociaciones como Amnistía Internacional y Propublica, o las mediáticas manifestaciones del Black Lives Matter, Amazon decidió parar la venta del sistema, en un comunicado en el que aducía: «Hemos defendido que los gobiernos pongan en marcha regulaciones más estrictas sobre el uso ético del reconocimiento facial y, en los últimos días, el Congreso parece estar listo para asumir este desafío». ¿No es gracioso que sea Amazon quien exija un uso ético?

Un hecho importante a tener en cuenta, es que antes de que Amazon se echará atrás, organizaciones  de la sociedad civil (incluso una comunidad de vecinos) y una joven informática llamada Joy Buolamwini, quien gracias a su investigación detectó que el sistema de reconocimiento facial presentaba graves fallos en personas que no eran de la raza blanca aria (o sea indios, latinos, negros y algunos europeos estábamos expuestos a caer erróneamente en este sistema), lograron llevar el caso hasta el Congreso de Estados Unidos.  Allí se utilizó el sistema en directo, aplicando nombres de congresistas de origen no americano que estaban presentes, y el resultado fue que el sistema presentó constantemente errores, llegando incluso a señalarles como presuntos asesinos o delincuentes.

Gracias a acciones como esta, San Francisco fue la primera ciudad en el mundo en prohibir el sistema, prohibición a la que se le han ido uniendo otras ciudades más.

¿Cuál es la moraleja de todo esto? Muy fácil: que la sociedad civil de un país democrático, si se lo propone, tiene todos los elementos para unirse, y defender sus derechos ante el mal uso de la tecnología, y exigir al Gobierno crear reglas de juego más equitativas para todos.

Por ello, en lugar de decir que los robots van a destruirnos mientras bebes una cerveza con tus amigos, más bien entérate por donde va el mundo y lucha por un futuro tecnológico más humano.

De ello depende el futuro de tus hijos.