Registran las oficinas de X en París tras la difusión de pornografía hecha con IA: Musk tendrá que declarar

La Fiscalía de París ha registrado las oficinas de X (la antigua Twitter propiedad de Elon Musk) en Francia tras la reciente difusión de contenido pornográfico generado con la Inteligencia Artificial (IA) integrada de la red social, Grok. El registro, ejecutado por la unidad de delitos informáticos junto a la unidad de ciberdelincuencia de la Policía gala y la Europol, se ha llevado a cabo en el marco de una investigación a la compañía que arrancó en enero de 2025.

Además, Elon Musk ha sido citado a declarar en este contexto por «complicidad en la posesión de imágenes de menores de carácter pedopornográfico». Junto al dueño de X tendrán que declarar también los empleados de la plataforma, como testigos, y la consejera delegada Linda Yicarino, durante la semana del 20 al 24 de abril. Los primeros en hacerlo serán Musk y Yicarino, en calidad de administradores de facto y de iure en el momento de los hechos.

El pasado 12 de enero, la Fiscalía de París recibió una serie de denuncias sobre la supuesta manipulación del algoritmo de X con el fin de favorecer contenidos determinados, y la investigación se amplió con otras que apuntaban que «el funcionamiento de Grok (…) dio lugar a la difusión de contenidos negacionistas y deepfakes de carácter sexual», revelaron.

Delitos de la investigación a X y Musk

Así, son varios los delitos que aborda la investigación penal:

• Complicidad en la posesión de imágenes de menores con carácter pedófilo y pornográfico
• Complicidad en la difusión, oferta o puesta a disposición en banda organizada de imágenes de menores con carácter pedófilo y pornográfico
• Atentado contra la imagen de la persona (deepfake de carácter sexual)
• Crímenes contra la humanidad (negacionismo)
• Extracción fraudulenta de datos de un sistema de tratamiento automatizado de datos en banda organizada
• Falsificación del funcionamiento de un sistema de tratamiento automatizado de datos en banda organizada
• Administración de una plataforma en línea ilícita en banda organizada

Aunque no es de carácter penal, también la Comisión Europea inició la pasada semana una investigación formal contra la compañía de Musk por las deepfake generadas por Grok y por otros contenidos que violarían la Ley Europea de Servicios Digitales (DSA), según Bruselas. La multa podría alcanzar hasta el 6% del volumen de negocio de la compañía.

Por otro lado, la Unión Europea sancionó a la empresa con 120 millones de euros en concepto de multa tras determinar que su sistema de cuentas verificadas induce a error a los usuarios. Le dio un plazo de tres meses para abonar la cuantía.