AtomThink：原子ステップ推論によるマルチモーダル思考の深化

科学分野:

• 人工知能
• コンピュータビジョン
• 自然言語処理

背景:

• 大規模言語モデル（LLM）におけるマルチモーダル推論は、複雑な課題です。
• 既存の方法では、剛性のあるテンプレートや構造化されていないアプローチが使用されることが多く、非効率につながります。
• 質問の複雑さに応じて、適応的な推論戦略が必要です。

研究 の 目的:

• LLMのための適応型マルチモーダル推論のための新しいフレームワーク、AtomThinkを開発すること。
• 柔軟な推論のための自己構造化連鎖思考（SCoT）パラダイムを導入すること。
• マルチモーダルタスクにおける精度と効率の両方を改善すること。

主な方法:

• 最小限の意味的原子ステップを持つ自己構造化連鎖思考（SCoT）パラダイムを提案しました。
• データエンジン、教師ありファインチューニング、ポリシーガイド推論、原子能力指標を備えたAtomThinkフレームワークを設計しました。
• 教師ありファインチューニングのために、シリアル化された推論データを使用しました。

主要な成果:

• MathVistaおよびMathVerseデータセットで10%以上の平均精度向上を達成しました。
• 最先端の構造化連鎖思考（CoT）アプローチと比較して大幅な改善を示しました。
• データ利用率を5倍、推論効率を85.3%向上させました。

結論:

• AtomThinkは、マルチモーダル大規模言語モデル（MLLM）における適応的推論を可能にします。
• SCoTパラダイムは、柔軟で効率的な推論構造を提供します。
• AtomThinkは、マルチモーダルAIシステムのパフォーマンスと効率を大幅に進歩させます。