VerifAI: la herramienta que detecta contenido manipulado con IA para estar prevenidos contra el fraude

Las herramientas digitales han abierto al mundo un sinfín de funcionalidades muy importantes, tanto desde el punto de vista de la comunicación como de la generación y creación de contenidos digitales de uso personal y profesional. Sin embargo, la cara B de todo ello es la presencia del fraude, a través de la generación de imágenes, vídeos y audios falsos a través de instrumentos digitales como la Inteligencia Artificial (IA), lo que puede generar verdadero caos social, económico e informativo.

Son lo que conocemos con deepfake, una imagen o un audio generado que imita la apariencia y el sonido de una persona, también llamados medios sintéticos, y que son muy convincentes a la hora de imitar lo real, tanto que puede llegar a engañar a personas y a algoritmos. Lo que conlleva algunos peligros, como puede ser el fraude online, la desinformación, suplantación de identidad y atentado contra la imagen de las personas.

Protección contra la desinformación y el contenido fraudulento

Todo eso es una realidad, por lo que debemos estar prevenidos y con herramientas a mano que nos ayuden a detectar y determinar si estamos o no ante archivos falsos o certeros, como la que ha creado Telefónica Innovación Digital: TU VerifAI Beta. Se trata de una solución que permite detectar contenidos generados o modificados por IA, ya sea en formato de vídeo, imagen o audio, gracias al detector de deepfakes que usa modelos de IA más avanzados del mercado.

Actualmente, existe una versión pública –accesible a través de verifai.tu.com– que cuenta con una única funcionalidad: el análisis forense digital. Esto permite que los usuarios determinen con cierta probabilidad si un archivo de imagen, audio o vídeo es o no fake. El análisis de vídeo es una opción de pago, los análisis de audio e imagen son de acceso gratuito.

Además, VerifAI se compromete a utilizar la IA de manera ética, asegurando que sus modelos y algoritmos sean transparentes, justos y libres de sesgos garantizando que el uso de la IA beneficie a la sociedad, sin comprometer la privacidad ni los derechos de los individuos.

VerifAI funciona a través de tres sencillos pasos:

1.- Subes la imagen, vídeo o audio desde el ordenador.

2.- Tras unos segundos comenzará el análisis de verificación de VerifAI para detectar si hay una posible creación o retocado con IA.

3.- Finalmente, la herramienta descubre el resultado, mostrando la probabilidad de que el archivo haya sido manipulado con IA.

Verificación para empresas

También cuenta Telefónica Innovación Digital con VerifAI Beta PRO, una versión orientada a empresas que tiene grandes ventajas, con respecto a la versión free. Por ejemplo, agrega múltiples motores de IA, tanto propios como de terceros, mejorando la capacidad de análisis de los contenidos; permite incluir motores propios del cliente, y el resultado del análisis forense digital incluye más detalles.

Además, esta versión PRO cuenta con una funcionalidad extra: DeepFake Dectector, análisis en tiempo real, lo que permite analizar un stream de vídeo en tiempo real y determinar si es un deepfake. Se puede aplicar, por ejemplo, en una videollamada de Teams, de forma que el usuario recibe una alerta si un participante de la llamada está suplantando la identidad de otra persona. También cuenta con una consola que permite a los equipos de IT o seguridad monitorizar este tipo de ataques.

Trabajo en el análisis en tiempo real

El análisis en tiempo real utiliza varios modelos de IA, entre ellos Head Pose, que analiza la posición de la cabeza permitiendo detectar comportamientos anómalos típicos de técnicas de deepfaking. Este modelo se ha desarrollado internamente desde Telefónica Innovación Digital y cuenta con una patente.

Desde Telefónica están trabajando en la “apificación” de la parte de análisis en tiempo real. Esto abrirá la puerta a la integración en procesos de Know Your Costumer (KYC), como por ejemplo un onboarding digital de un nuevo cliente o de alguien que quiere abrir una cuenta de banco online.

En resumen, VerifAI es una solución para la detección de deepfakes. Actualmente, cuenta con dos funcionalidades: el análisis forense digital y el análisis en tiempo real (disponible únicamente en la versión PRO). En un futuro, VerifAI integrará otras funciones relacionadas con la detección de contenidos generados con IA, por ejemplo, el análisis de audios de WhatsApp para comprobar si la persona que lo envía es quien dice ser; o el análisis de llamadas a fijo, para prevenir posibles estafas derivadas de la suplantación de identidad.