回路解説：トランスフォーマーはどのように構成的汎化を実行するか

科学分野:

• 人工知能
• 認知科学
• 機械学習

背景:

• 構成的汎化は人間の認知に不可欠ですが、ニューラルネットワークでは十分に理解されていません。
• 以前の研究では、トランスフォーマーがシーケンスタスクで単純な構成的汎化を達成できることが示されました。

研究 の 目的:

• トランスフォーマーモデルにおける構成的汎化を担当する回路を機構的に解釈すること。
• ニューラルネットワークがどのように象徴的な構成性を達成するかを理解すること。

主な方法:

• 因果的アブレーションを利用して、特定のニューラル回路を分離しました。
• 正確な活性化編集を実行して、回路の動作を分析しました。
• トークンの位置とアイデンティティの分離された表現を調査しました。

主要な成果:

• 機能構成を実行する回路を特定しました。
• この回路は、特定の機能の意味論ではなく、位置とアイデンティティに基づいた一般的なトークン再マッピングルールを使用します。
• 活性化編集により、モデルの出力を予測可能に誘導しました。

結論:

• 特定された回路は、トランスフォーマーにおける構成的汎化の機構的説明を提供します。
• この発見は、大規模なAIモデルにおける同様のメカニズムのためのテスト可能な仮説を提供します。
• これらの回路の理解は、AIと認知科学の両方の研究を進歩させることができます。