Bruno Azula: ‘Con los deepfakes ya no basta con detectar la manipulación, hay que demostrar el origen auténtico del vídeo’

Los deepfakes de vídeo han puesto sobre la mesa un problema cada vez más serio para sectores como la seguridad, la videovigilancia o el ámbito judicial. En esta entrevista, Bruno Azula, director de Ventas para España y Portugal en Axis Communications, nos explica por qué la compañía apuesta por certificar el origen del vídeo desde el instante mismo de la captura y qué implicaciones puede tener eso en contextos legales, forenses y regulatorios.

Pregunta. — En la actualidad los deepfakes de vídeo se han disparado, ¿por qué cree Axis que ya no basta con detectar una manipulación y que ahora la clave está en poder demostrar el origen auténtico del vídeo?

Respuesta. — La rápida evolución de la tecnología deepfake ha creado una dinámica en la que las herramientas de manipulación suelen avanzar más rápido que los métodos de detección. Axis Signed Video no es una herramienta que combata directamente los deepfakes de video mediante el análisis de su contenido. En cambio, nuestro enfoque elude por completo esa carrera sin fin. En lugar de intentar analizar un vídeo para determinar si ha sido modificado o cómo, nos centramos en demostrar que no ha sido modificado en absoluto.

Por eso nos enfocamos en demostrar el origen auténtico del vídeo. Pensemos en ello como un sello digital de autenticidad. Al firmar criptográficamente el vídeo desde el momento exacto de su captura, proporcionamos una cadena de confianza verificable e ininterrumpida. Esto no “detecta” un deepfake de video, pero permite a cualquiera diferenciar uno original y sin alterar de uno que ha sido manipulado, ya que la versión manipulada carecerá de una firma válida.

P.— Axis habla de firmar criptográficamente el vídeo en el mismo momento de la captura. ¿Qué cambia en la práctica frente a los sistemas que verifican la autenticidad después, durante el procesamiento o el almacenamiento?

R.— La diferencia práctica radica en la eliminación de la “ventana de vulnerabilidad”, es decir, el intervalo entre la captura y la firma que existe en otros sistemas. Los sistemas que aplican medidas de autenticidad a posteriori pueden dejar este intervalo en el que el vídeo queda expuesto y podría ser alterado.

El sistema firma criptográficamente cada fotograma de vídeo en el momento en que se captura dentro de la cámara. Se genera una suma de comprobación criptográfica, o hash, para cada fotograma, y estos hashes se firman utilizando la clave privada única de la cámara. Esta clave se almacena de forma segura en Axis Edge Vault, un módulo de hardware protegido frente a manipulaciones. La firma resultante se integra directamente en el flujo de vídeo como metadatos.

Cuando el vídeo se verifica posteriormente, el software comprueba que las firmas coincidan con los datos del vídeo. Dado que esta comprobación de integridad se realiza a nivel de fotograma, cualquier alteración, aunque sea de un solo píxel, provocará que la verificación de la firma falle. Esto ofrece un nivel de certeza que los sistemas posteriores a la captura simplemente no pueden igualar, ya que demuestra que el vídeo no ha sido manipulado desde su creación.

P.— ¿Qué papel juega exactamente Axis Edge Vault en este proceso y por qué es tan importante que la autenticación se haga dentro de la propia cámara?

R.— Axis Edge Vault es la raíz de confianza basada en hardware de este proceso. Su función consiste en almacenar de forma segura las claves criptográficas únicas de la cámara y ejecutar las operaciones de firma en un entorno protegido. Cada cámara se configura durante su fabricación con un certificado de dispositivo emitido por Axis, lo que establece una cadena de confianza criptográfica. Axis Edge Vault garantiza que esta identidad y las claves asociadas no puedan ser extraídas ni manipuladas.

Es fundamental que la autenticación se realice dentro de la cámara por dos razones principales. La primera es garantizar la integridad desde el origen: al firmar el vídeo en el mismo instante de su captura, aseguramos su integridad antes de que se vea expuesto a posibles amenazas en la red o en los sistemas de almacenamiento. La propia cámara se convierte así en un punto de referencia seguro y fiable.

La segunda es crear una procedencia verificable. Se establece un vínculo verificable entre las imágenes grabadas y el dispositivo físico que las generó. Esto permite a cualquiera que reciba las imágenes confirmar tanto que no han sido alteradas como que proceden de un dispositivo de confianza.

P.— Habéis apostado por herramientas de verificación de código abierto. ¿Por qué era importante abrir esa parte del proceso y qué ventajas aporta eso a jueces, policías, equipos jurídicos o incluso otros fabricantes?

R.— El proceso de verificación no se limita a los entornos de Axis, lo cual constituye una diferencia fundamental. Cualquier archivo de vídeo que contenga una firma válida puede verificarse mediante herramientas de acceso público, como Axis File Player o bibliotecas de verificación de código abierto. Esto significa que la autenticidad de las imágenes puede ser comprobada de forma independiente por terceros, como investigadores, tribunales o analistas, independientemente del lugar en el que se lleve a cabo la verificación.

Esta apertura es importante por varias razones. Por un lado, la policía, los tribunales y los equipos jurídicos no dependen de los sistemas propietarios de Axis para comprobar la autenticidad de un vídeo. La posibilidad de realizar una verificación independiente garantiza la objetividad y elimina posibles conflictos de intereses. Además, para jueces y autoridades, disponer de métodos de verificación que puedan examinarse de forma independiente elimina cualquier duda sobre el proceso en sí, lo que refuerza la credibilidad del vídeo como prueba.

A eso se suma que este enfoque se ha compartido con el sector a través de especificaciones abiertas e iniciativas de estandarización, como ONVIF. Eso abre la puerta a que otros fabricantes puedan implementar mecanismos de firma compatibles en sus propios dispositivos, facilitando una mayor adopción por parte del sector y la interoperabilidad, y creando un ecosistema más seguro y fiable para todos.

La clave es que, aunque la firma debe realizarse en un dispositivo compatible en el momento de la captura, la verificación puede llevarla a cabo cualquier equipo o entidad utilizando las herramientas y bibliotecas disponibles, lo que favorece la transparencia y la confianza.

P.— Habéis mencionado vuestra relación con ONVIF, C2PA y también con los nuevos marcos regulatorios europeos. ¿Hasta qué punto esta tecnología puede convertirse en una pieza clave para que una prueba digital tenga más solidez en un entorno legal o forense?

R.— Esta tecnología es un elemento clave para reforzar la solidez de las pruebas digitales, y nuestra colaboración con estos organismos confirma su importancia. Si bien la Ley de IA se centra en regular los sistemas de IA y en etiquetar sus resultados, Signed Video respalda los objetivos de transparencia y cumplimiento de la ley al proporcionar una forma fiable de demostrar qué contenidos son auténticos y no han sido alterados.

La colaboración con organizaciones como ONVIF y C2PA contribuye a consolidar esto. Al incorporar elementos de este enfoque en los debates sobre normalización dentro de ONVIF, estamos ayudando a crear posibles soluciones de autenticidad interoperables entre diferentes proveedores. Esto significa que el sistema jurídico puede aprovechar las ventajas de una norma reconocida, y no solo de la tecnología de una única empresa. La alineación con C2PA también ayuda a garantizar que nuestros datos de procedencia encajen en un marco más amplio e intersectorial para todo tipo de medios.

P.— Con la AI Act exigiendo etiquetar muchos contenidos generados por IA, vosotros planteáis una idea complementaria: no solo identificar lo falso, sino validar lo real. ¿Cree que ese será uno de los grandes debates tecnológicos y jurídicos de los próximos años?

R.— Es importante recordar que aún nos encontramos en una fase muy temprana de este nuevo paradigma de la IA. Como sociedad, estamos empezando a evaluar sus implicaciones en materia de confianza y autenticidad. Como respuesta, estamos asistiendo a una tendencia legislativa mundial centrada en la integridad de las comunicaciones, con normativas como la Ley de IA de la UE, que exige el etiquetado de los contenidos generados por IA.

Y, lo que es igual de importante, estamos asistiendo a un debate político y ahora también a la aprobación de leyes como las de transparencia en materia de IA de California, que exigen mecanismos para establecer la procedencia de los contenidos y verificar la autenticidad de las comunicaciones no alteradas. De cara al futuro, creemos que será necesario un enfoque dual, centrado tanto en identificar lo que es falso como en certificar lo que es real, especialmente en contextos en los que las comunicaciones se utilizan como prueba legal.