Lo último en inteligencia artificial: dos empresas japonesas advierten sobre su peligro para la sociedad

La mayor empresa de telecomunicaciones de Japón y el periódico Yomiuri Shimbun tienen previsto publicar un manifiesto en el que pedirán una legislación rápida para controlar la inteligencia artificial generativa, en el que afirman que la democracia y el orden social podrían derrumbarse si no se controla la citada inteligencia.

En el manifiesto de las empresas japonesas, se señalan los beneficios potenciales de este tipo de inteligencia para mejorar la productividad, aunque adopta una visión generalmente escéptica de la tecnología. Sin dar detalles concretos, en el manifiesto se establece que las herramientas de esta inteligencia ya han empezado a perjudicar a la dignidad humana, debido a que porque a veces está diseñada para captar la atención de los usuarios sin tener en cuenta la moral o la precisión.

En este sentido, en el texto se indica que Japón debería tomar medidas de inmediato, entre ellas leyes que protejan las elecciones y la seguridad nacional ante los abusos de la inteligencia artificial generativa.

Con la Unión Europea a la cabeza, la nueva ley de la UE exige a los fabricantes de los modelos de este tipo de inteligencia más potentes que los sometan a evaluaciones de seguridad y notifiquen a los reguladores los incidentes graves. También está previsto prohibir el uso de la inteligencia artificial para el reconocimiento de emociones en escuelas y lugares de trabajo.

En el texto, se establece que Japón debería tomar medidas de inmediato, entre ellas, leyes que protejan las elecciones y la seguridad nacional ante el abuso de la inteligencia artificial generativa.

En todo el mundo se ha impulsado la regulación de la inteligencia artificial, con la Unión Europea a la cabeza. La nueva ley de la UE exige a los fabricantes de los modelos de inteligencia artificial más potentes que los sometan a evaluaciones de seguridad y notifiquen a los reguladores de los incidentes graves. También está previsto prohibir el uso de inteligencia artificial de reconocimiento de emociones en escuelas y lugares de trabajo.

Las leyes sobre inteligencia artificial establecen normas para una serie de sectores, desde la banca al transporte, así como directrices sobre cómo las fuerzas de seguridad pueden utilizar la inteligencia artificial en sus funciones. También se aborda cómo pueden construirse grandes modelos lingüísticos, para proteger tanto la privacidad individual como los secretos corporativos.

Control del tráfico y seguridad

De forma experimental, Francia ha probado en un concierto de Depeche Mode la tecnología de videovigilancia basada en inteligencia artificial, que se utilizará durante los Juegos Olímpicos.

La legislación francesa aprobada en 2023 permite el uso de videovigilancia con inteligencia artificial durante un período de prueba que abarcará los Juegos para detectar sucesos anómalos o comportamientos humanos en acontecimientos a gran escala.

Esta tecnología tendría que ser fundamental para evitar un atentado como el de los Juegos Olímpicos de Atlanta en 1996 o el atentado con camión de Niza en 2016.

The danger of AI is not that it will reach the heights of a digital deity that destroys humanity – but that the narrow AI we already have is creating surveillance societies without freedom of speech or movement.

Facial recognition; speech snooping; location and relationship… pic.twitter.com/uL7S0YbMjp

— Ewan Morrison (@MrEwanMorrison) April 9, 2024 

¿Qué es la videovigilancia algorítmica?

La videovigilancia algorítmica utiliza programas informáticos para analizar en tiempo real las imágenes captadas por las cámaras de videovigilancia. Cuatro empresas -Videtics, Orange Business, ChapsVision y Wintics- han desarrollado software de inteligencia artificial que utiliza algoritmos para analizar secuencias de vídeo procedentes de sistemas de videovigilancia existentes para ayudar a identificar posibles amenazas en espacios públicos.

Los algoritmos están entrenados para detectar «sucesos» predeterminados y comportamientos anómalos y enviar alertas en consecuencia. Los seres humanos deciden entonces si la alerta es real y si hay que actuar en consecuencia.

¿Qué buscará el algoritmo?

La ley prevé ocho sucesos diferentes que el software de vigilancia de inteligencia artificial podrá detectar durante los Juegos:

• Aglomeraciones de personas.
• Aglomeraciones anormales.
• Objetos abandonados.
• Presencia de armas.
• Uso de armas.
• Una persona en el suelo.
• Un incendio.
• Incumplimiento de las normas de circulación.

¿Quién utiliza esta inteligencia artificial?

La Policía nacional y local, los bomberos y los agentes de seguridad del transporte público tendrán acceso a la vigilancia por esta forma de inteligencia.
El software desarrollado por Wintics y probado en el concierto de Depeche Mode se implantará en la región de París y en el transporte público.