AsynDBT: 大規模な言語モデルによる効率的なインコンテキスト学習のための非同期分散バイレベルチューニング

科学分野:

• 人工知能 (AI) とは,人工知能 (AI) のことです.
• 機械学習 (Machine Learning) とは,機械学習 (Machine Learning) について学ぶことです.
• 自然言語処理 (Natural Language Processing) とは,自然言語処理で処理された言語を処理する.

背景:

• クラウドベースの大型言語モデル (LLM) は,パラメータとグラデーションの不可知性のために高価な即時チューニングを必要とします.
• イン・コンテキスト・ラーニング (ICL) は,パラメータの更新なしにLLMを適応させるが,敏感で共有が難しいデータによって制限される.
• 連邦学習 (FL) は,プライバシーを守るコラボレーティブトレーニングを可能にしますが,ICLの落着者および異質なデータで課題に直面しています.

研究 の 目的:

• 大規模な言語モデルにおけるインコンテキスト学習のための既存の連合学習アプローチの限界に対処する新しいアルゴリズムを開発する.
• 背景学習サンプルとプロンプトフラグメントの両方を最適化することによって,下流のタスクパフォーマンスを向上させる.
• 異質な環境における分散 LLM トレーニングのプライバシー保護と適応可能なソリューションを提供する.

主な方法:

• アシンクロン分散双レベルチューニング (AsynDBT) アルゴリズムを提案した.
• LLMのフィードバックに基づいて,最適化されたインコンテキスト学習サンプルとプロンプトフラグメント.
• プライバシーと適応性のために分散アーキテクチャを実装しました.
• アルゴリズムの理論的収束保証を提供した.

主要な成果:

• AsynDBTは,ICLのサンプルとプロンプトを最適化することで,下流のタスクパフォーマンスを向上させます.
• 分散アーキテクチャは,プライバシー保護と異質なコンピューティング環境への適応性を保証します.
• ベンチマークデータセットに関する広範な実験は,AsynDBTの有効性と効率性を検証しています.

結論:

• AsynDBTは,大規模な言語モデルでのインコンテキスト学習で,プライバシーを保護するフェデレーション式学習のための効果的かつ効率的なソリューションを提供します.
• このアルゴリズムは,フェデレーテッド・イン・コンテキスト・ラーニングにおいて,ストラグラーとデータヘテロゲニティの問題にうまく対処しています.
• AsynDBTは,多様なデータセットで強力な性能と適応性を実証しています.