Modelado lingüístico amplio de la mitigación de problemas alucinatorios basado en la rueda de las emociones

Área de la Ciencia:

• Inteligencia artificial
• Procesamiento del lenguaje natural
• Visión por computadora

Sus antecedentes:

• Los grandes modelos de lenguaje (LLM) exhiben habilidades generativas avanzadas, pero sufren de alucinaciones, lo que afecta la confiabilidad.
• Las alucinaciones son salidas plausibles pero fácticamente incorrectas o inconsistentes, lo que limita la utilidad de LLM.

Objetivo del estudio:

• Proponer y evaluar un nuevo método de Inferencia Emocional Aumentada (EAI) para mitigar las alucinaciones en la generación multimodal de LLM.
• Mejorar la coherencia emocional y la fiabilidad semántica en las salidas de LLM.

Principales métodos:

• Desarrollado EAI integrando la decodificación visual-contrastiva y la simbolización textual afectiva basada en la Rueda de las Emociones.
• Permite la percepción, la regulación y la reconstrucción de señales emocionales durante la generación.
• Probado en conjuntos de datos multimodal MSCOCO y GQA bajo contextos emocionales neutrales, positivos y negativos.

Principales resultados:

• EAI mejoró la precisión, la precisión, el recuerdo y la puntuación F1 en un 4% -8% en comparación con los modelos de referencia.
• Se ha demostrado una supresión significativa de las alucinaciones, especialmente en contextos emocionales negativos (S3).
• La precisión aumentó en un 5,48% (S3 frente a S1) y un 2,23% (S3 frente a S2).

Conclusiones:

• EAI suprime efectivamente las alucinaciones en la generación multimodal, mejorando el manejo emocional y la coherencia textual.
• El método ofrece información sobre los estados emocionales dentro de las salidas de LLM.
• EAI contribuye al desarrollo de sistemas de IA más confiables, controlables y centrados en el ser humano.