Tecnología
inteligencia artificial

Anthropic marca con una firma invisible todo lo que escribe Claude

  • Nacho Grosso
  • Cádiz (1973) Redactor y editor especializado en tecnología. Escribiendo profesionalmente desde 2017 para medios de difusión y blogs en español.

Desde el 2 de agosto, cada texto que generado por un nuevo modelo Claude de Anthropic incorpora una marca de agua invisible pensada para sobrevivir a copiar y pegar. El objetivo declarado es permitir identificar qué contenido ha salido de una inteligencia artificial, aunque el sistema tiene límites que la propia empresa reconoce.

Así funciona una marca que no se ve

Aquí no hay nada visible. La técnica consiste en introducir un patrón estadístico sutil en la forma en que el modelo elige unas palabras u otras entre varias opciones igual de válidas. Ese patrón no altera el sentido del texto ni añade caracteres extra, pero queda codificado en la propia secuencia de palabras, por lo que viaja con el texto aunque se copie y se pegue en otro documento, correo o red social. Anthropic ha publicado además una API de detección con la que cualquier plataforma puede comprobar si un fragmento de texto lleva su firma.

Para las imágenes, vídeos y otros archivos que genera o procesa Claude, la empresa usa un sistema distinto llamado C2PA, un estándar de la industria que añade metadatos firmados digitalmente donde consta qué modelo creó el archivo, cuándo lo hizo y si existen restricciones de derechos de autor sobre ese contenido.

Fuente: Unsplash

Las razones que lo llevan a cabo

La obligación nace del Reglamento europeo de Inteligencia Artificial, concretamente de su artículo 50.2, que exige a las empresas que ofrecen sistemas de IA generativa marcar sus resultados de forma que se puedan identificar como creados por una máquina. Anthropic ha firmado el código de buenas prácticas asociado a ese artículo. La compañía ha decidido no limitar la medida a los usuarios europeos, sino aplicarla a todos sus productos en cualquier país, desde la API de Claude y claude.ai hasta Claude Code, Claude Cowork y Claude Tag, incluidas las versiones que se contratan a través de AWS, Google Cloud o Microsoft Foundry.

Una normativa pensada para la Unión Europea rara vez obliga a cambiar el producto en el resto del planeta, y aquí Anthropic sí lo ha hecho. Es razonable pensar que, además de cumplir la ley, a la empresa le interesa presentarse como la opción más transparente del sector en un momento en el que crece la presión pública contra el llamado «AI slop», el contenido genérico y de baja calidad generado en masa por inteligencias artificiales y que satura redes sociales y buscadores.

Como todo, tiene sus trucos

La propia Anthropic admite que el sistema tiene agujeros. Una edición intensa del texto, una traducción a otro idioma, una paráfrasis cuidadosa o el hecho de mezclar el contenido generado con texto escrito por una persona pueden debilitar la marca hasta hacerla indetectable. Eso significa que sirve para identificar copias literales o poco modificadas de un texto generado por IA, pero no funciona como una prueba forense infalible de autoría.

Tampoco existe todavía una auditoría independiente que haya verificado en profundidad cómo de sólido es el sistema frente a intentos deliberados de eliminarlo, más allá de lo que la propia compañía ha comunicado a la prensa. En todo caso, es un paso adelante a la hora de evitar el camino fácil que se toma en muchos ámbitos.