大規模な言語モデルを使用して,数回のバイオメディカル名前のエンティティ認識のための検索拡張世代ベースのダイナミックプロンプト

科学分野:

• 自然言語処理 (NLP)
• 生物医学情報学

背景:

• バイオメディカル・エンティティ・認識 (NER) は,バイオメディカル・テキストから情報を抽出するために不可欠です.
• 大規模言語モデル (LLM) は,特に限られたデータを持つショットシナリオでは,NERの可能性を示しています.

研究 の 目的:

• バイオメディカル NER のためのLLMのパフォーマンスを高めるために.
• ダイナミック・プロンプト戦略の有効性を調査し,特にリクエスト・アグメンテッド・ジェネレーション (RAG) を研究する.

主な方法:

• LLMの静的およびダイナミックプロンプトエンジニアリング技術を実装し,比較しました.
• ダイナミックなサンプル選択のために,TF-IDFとSBERTで検索拡張生成 (RAG) を利用した.
• 5ショットと10ショットの設定で5つの生物学的NERデータセットでパフォーマンスを評価しました.

主要な成果:

• 構造化されたコンポーネントによる静的な誘導は,GPT-4,GPT-3.5,LLaMA 3-70BのF1スコアを11%-12%改善しました.
• ダイナミックプロンプトにより,TF-IDFとSBERTの検索により,平均F1スコアがそれぞれ7.3%と5.6%向上した.
• ダイナミックRAGは,少数の生物医学的なNERタスクで優れた結果を示しました.