Alucinación, monofactos y descalibración: una investigación empírica

Área de la Ciencia:

• Procesamiento del Lenguaje Natural
• Teoría del Aprendizaje Automático
• Aprendizaje Estadístico

Sus antecedentes:

• Los modelos de lenguaje grandes (LLM) exhiben hechos alucinados, un fenómeno teóricamente vinculado a la tasa de monofactos y la descalibración del modelo.
• La investigación existente sugiere un límite inferior estadístico para las alucinaciones basado en estos factores.
• Se necesita validación empírica en diferentes arquitecturas de modelos para comprender esta relación.

Objetivo del estudio:

• Investigar empíricamente la relación entre la tasa de monofactos, la descalibración y la alucinación en modelos clásicos de n-gramas y transformadores.
• Desarrollar y validar un límite empírico de alucinación.
• Explorar técnicas para mitigar las alucinaciones sin comprometer la precisión del modelo.

Principales métodos:

• Generación de datos de entrenamiento a partir de distribuciones de Pareto para controlar la tasa de monofactos.
• Derivación de un límite empírico de alucinación utilizando la divergencia de Kullback-Leibler (KL) por intervalos.
• Introducción y evaluación de la técnica de ponderación selectiva mediante la repetición estratégica de ejemplos de entrenamiento.

Principales resultados:

• Se estableció una correlación positiva entre la tasa de monofactos y los niveles de alucinación.
• El límite empírico de alucinación demostró viabilidad práctica.
• La ponderación selectiva redujo la alucinación hasta en un 40% mientras preservaba la precisión.
• El entrenamiento estándar mejoró la precisión pero no redujo eficazmente la alucinación persistente.

Conclusiones:

• La alucinación en los LLM está empíricamente relacionada con la tasa de monofactos y la descalibración del modelo.
• La ponderación selectiva ofrece una estrategia viable para mitigar las alucinaciones, desafiando la deduplicación universal.
• Existe una compensación entre la mejora de la precisión y la reducción de la alucinación en los objetivos de entrenamiento estándar.