感情の車輪に基づいた幻覚問題の緩和の広範な言語モデリング

科学分野:

• 人工知能
• 自然言語処理
• コンピュータ・ビジョン

背景:

• 大型言語モデル (LLM) は高度な生成能力を発揮しますが,幻覚に苦しんで信頼性に影響します.
• 幻覚はあり得ますが,事実上誤りや不一致性があり,LLMの有用性を制限します.

研究 の 目的:

• マルチモダルのLLM生成における幻覚を緩和するための新しい感情増強推論 (EAI) 方法を提案し評価する.
• LLMの出力における感情的な一貫性と意味学的な信頼性を高めること.

主な方法:

• 感情の輪に基づいた視覚対照解読と感情的なテキストシンボライゼーションを統合したEAIを開発しました.
• 感情信号の知覚,制御,再構築を 世代で可能にした.
• MSCOCOとGQAのマルチモダルのデータセットで ニュートラル,ポジティブ,ネガティブな感情的な文脈でテストしました.

主要な成果:

• EAIは,精度,リコール,F1スコアをベースラインモデルよりも4%-8%改善しました.
• 特にネガティブな感情的な文脈での有意な幻覚抑制が示された (S3).
• 精度は5. 48% (S3 対 S1) と2. 23% (S3 対 S2) 増加した.

結論:

• EAIはマルチモデルの生成において 幻覚を効果的に抑制し 感情の管理とテキストの一貫性を高めます
• この方法は,LLMアウトプット内の感情状態の洞察を提供します.
• EAIは,より信頼性の高い,制御可能な,人間中心のAIシステムの開発に貢献しています.