LLMベースの文脈認識機械翻訳のためのマルチフェーズ・マルチタスク・プロンプトチューニング

科学分野:

• 自然言語処理
• 機械翻訳
• 人工知能

背景:

• 大規模言語モデル（LLM）を使用した現在の文脈認識機械翻訳（MT）手法では、文内コンテキストと文間コンテキストが均一に処理されることがよくあります。
• この区別されないアプローチは、正確な翻訳を達成する上でこれらのコンテキストが果たす独自の役割を見落としています。

研究 の 目的:

• LLMが文内コンテキストと文間コンテキストを区別できるようにする新しい戦略、マルチフェーズプロンプトチューニング（MPT）を提案すること。これにより、MTが向上します。
• より一貫性があり、文脈的に関連性の高い翻訳のために、文間依存関係を活用するモデルの能力を強化すること。

主な方法:

• MPTは、MTタスクを文間コンテキストエンコーディング、ソース文エンコーディング、最終デコーディングの3つの異なるフェーズに分割します。
• 各フェーズでは、LLMの焦点をガイドするために一意の連続プロンプトが使用されます。
• 文脈非依存翻訳、クロスリンガル次文生成などの補助タスクを使用したマルチタスクファインチューニングアプローチが、コンテキストの区別と文間依存関係を強調するために採用されました。

主要な成果:

• 提案されたMPT戦略により、LLMは文内コンテキストと文間コンテキストを個別に処理できます。
• マルチタスクファインチューニングは、文間依存関係を捉え利用するモデルの能力を強化します。
• これらの手法は、機械翻訳における談話関連の課題の処理を改善します。

結論:

• マルチフェーズプロンプトチューニング（MPT）は、LLMを使用した文脈認識機械翻訳に対して、より微妙なアプローチを提供します。
• コンテキストタイプの区別と文間依存関係の強調は、より効果的なMTシステムにつながります。
• この戦略は、自然言語処理および機械翻訳分野の進歩に有望です。