CurveMark: Detección de texto generado por IA a través de la curvatura probabilística y el marcado de agua semántico...

Área de la Ciencia:

• Inteligencia artificial
• Procesamiento del lenguaje natural
• Seguridad de la información

Sus antecedentes:

• Los grandes modelos de lenguaje (LLM) presentan desafíos significativos de autenticación de contenido debido a la generación avanzada de texto de IA.
• Los métodos de detección existentes luchan con la captura limitada de información, las malas compensaciones y la vulnerabilidad adversaria.

Objetivo del estudio:

• Desarrollar un marco sólido para la detección de texto generado por IA a partir de LLM.
• Superar las limitaciones de los métodos de detección actuales, incluida la necesidad de un conocimiento previo del modelo.

Principales métodos:

• Se introdujo CurveMark, un marco de detección de doble canal que combina el análisis de curvatura de probabilidad y la marca de agua semántica dinámica.
• Utilizó principios teóricos de la información para maximizar la información mutua entre las fuentes de texto y las características observables.
• Incorporó un marco de detección de múltiples hipótesis bayesianas para la inferencia estadística independiente del modelo.

Principales resultados:

• Logró una precisión de detección del 95,4% en múltiples conjuntos de datos y arquitecturas LLM.
• Se ha demostrado una mínima degradación de la calidad con un aumento de la perplejidad < 1,3.
• Demostró un rendimiento robusto contra las perturbaciones adversas, reteniendo entre el 72 y el 94% de la información.

Conclusiones:

• CurveMark ofrece una solución altamente precisa y robusta para la detección de texto generado por IA.
• El marco equilibra efectivamente la precisión de la detección con la calidad del texto y la resistencia a los ataques.
• Este enfoque avanza en la autenticación de contenido en la era de los LLM sofisticados.