Anthropic anunció que Claude comenzará a incluir marcas invisibles en los textos que genera, con el objetivo de que sistemas automatizados puedan identificar contenido producido por inteligencia artificial. La medida responde a la Ley de IA de la Unión Europea, que obliga a las empresas del sector a incorporar mecanismos de detección de contenido generado por IA.
La función se suma a una preocupación creciente por la proliferación de contenido de baja calidad generado con IA en internet, fenómeno conocido como «basura de IA». Anthropic aplicará las marcas tanto en texto como en imágenes, y el despliegue alcanzará usos específicos del chatbot como Claude Code.
¿Cómo funcionan las marcas?
A diferencia de las marcas de agua en imágenes —ya extendidas y relativamente simples de detectar, aunque se pierden al convertir el archivo o capturar la pantalla—, la marca en texto dejará un rastro invisible para las personas pero detectable por sistemas automatizados.
Anthropic no detalló el mecanismo exacto, en parte para dificultar que se elimine, pero se presume que opera mediante la elección estadística de determinadas palabras por encima de otras, sin alterar el significado, la calidad ni la legibilidad del texto.
La compañía inicialmente añadirá la marca solo a contenido generado con modelos introducidos después del 2 de agosto de este año, aunque evalúa extender el soporte a modelos anteriores.
Una señal, no una prueba
La función generó controversia entre usuarios que temen que pedirle a Claude una simple corrección de ortografía o traducción baste para que el texto quede marcado como producido por IA, incluso si las ideas y el contenido original son enteramente humanos.
Anthropic confirmó ese escenario: si una persona escribe un texto y luego lo pasa por Claude para editarlo, traducirlo o resumirlo, la versión resultante llevará la marca, aunque el contenido subyacente provenga de otra fuente.
La compañía fue explícita sobre los límites de la herramienta. «Una marca detectada proporciona una señal de que Claude procesó contenido, pero no es completamente concluyente», señaló Anthropic, precisando que la marca «no confirma, por sí sola, la procedencia completa del contenido».
La empresa también advirtió que la ausencia de marca no garantiza que un texto no haya sido generado con IA, ya que podría provenir de un modelo anterior a la medida, haber sido muy editado o ser demasiado corto para incluir una señal fiable.
Otras tecnologías de detección de texto generado por IA ensayadas en el pasado —como el almacenamiento de todos los mensajes de un chatbot para comparación posterior, o el análisis de patrones característicos de escritura tras la generación— han enfrentado problemas prácticos, de privacidad y de consistencia.
La nueva marca de Claude busca evitar esas limitaciones al integrarse directamente en el proceso de generación.