Marcas de agua escalables para identificar las salidas de los grandes modelos de lenguaje

Área de la Ciencia:

• Inteligencia artificial
• Procesamiento del lenguaje natural
• Seguridad de la información

Sus antecedentes:

• Los grandes modelos lingüísticos (LLM) generan textos sintéticos de alta calidad, lo que plantea desafíos para el ecosistema de la información.
• Las técnicas de marca de agua existentes se enfrentan a limitaciones en la preservación de la calidad, la detectabilidad y la eficiencia computacional de los sistemas de producción.

Objetivo del estudio:

• Introducir SynthID-Text, un sistema de marcado de agua de texto listo para la producción de LLM.
• Abordar la necesidad de una identificación de texto sintético escalable, de alta calidad y eficiente.

Principales métodos:

• Desarrolló SynthID-Text, un esquema que modifica sólo el procedimiento de muestreo de LLM sin afectar a la formación.
• Marcas de agua integradas con muestreo especulativo para un despliegue eficiente a gran escala.
• Evaluado SynthID-Text a través de múltiples LLMs utilizando puntos de referencia estándar y calificaciones humanas lado a lado.

Principales resultados:

• SynthID-Text preserva la calidad del texto y las capacidades de LLM, sin mostrar degradación en los puntos de referencia estándar o las evaluaciones humanas.
• Logró una alta precisión de detección con una latencia mínima.
• Un experimento en vivo con casi 20 millones de respuestas de Gemini confirmó la preservación de la calidad del texto a escala.

Conclusiones:

• SynthID-Text es una solución viable y lista para la producción para el marcado de agua de texto generado por LLM.
• La disponibilidad de SynthID-Text promueve el desarrollo y el despliegue responsables de los sistemas de LLM.
• Facilita nuevos avances en las tecnologías de marca de agua para el contenido generado por IA.