La nueva función de Anthropic inserta un identificador imperceptible en cada texto generado por Claude, que viaja con el contenido incluso al copiarlo y pegarlo en otro lugar. (Fuente: PhoneArena)
Después de que Anthropic confirmara que va a marcar con agua digital los textos generados por sus modelos, empezaron a conocerse más detalles técnicos sobre cómo funciona exactamente ese sistema. Según explicó Alex Cui, director de tecnología de GPTZero, la marca de agua utiliza el método conocido como KGW, que combina un hash calculado sobre los tokens ya generados con una clave secreta para dividir el vocabulario del modelo en dos conjuntos, uno llamado verde y otro rojo. El sistema verifica cuántas veces el modelo elige palabras del conjunto verde para determinar si un texto fue generado por IA.
Un detalle importante es que esa clave secreta necesita rotarse periódicamente, porque si se filtra, se pierde el valor de todo lo marcado hasta ese momento. Además, según las pruebas de Cui, la marca de agua no sobrevive a una reescritura agresiva del texto, sobre todo cuando se combina el reemplazo de palabras con cambios en la estructura de las oraciones: incluso herramientas de parafraseo gratuitas lograron eliminarla con más eficacia que SynthID, el sistema equivalente de Google DeepMind.
Anthropic también fue clara respecto a las limitaciones del sistema: detectar una marca de agua no equivale a tener una prueba de autoría, ya que Claude podría no ser el autor original del contenido si, por ejemplo, alguien usó el modelo solo para editar un texto ya escrito por una persona. La preocupación de fondo, más que si los usuarios pagos merecen o no una salida sin marcar, es que esta señal probabilística termine siendo tratada como una prueba definitiva por escuelas, empleadores y plataformas, cuando en realidad no lo es.
Por el momento, Anthropic no publicó un detector público para verificar estas marcas de agua, algo que según los especialistas no es una simple demora técnica: un sistema de verificación abierto a todos también sería más fácil de eludir para quien quiera borrar la marca.
Este contenido fue elaborado por el equipo editorial de Infosertec en base a información pública de la industria tecnológica internacional.