大規模言語モデルを活用した有害医薬品事象検出：トークンベースおよびスパンベースの固有表現認識の比較研究

科学分野:

• 自然言語処理
• ヘルスケアにおける人工知能
• 臨床情報学

背景:

• 有害医薬品事象（ADE）は、患者の安全性と公衆衛生にとって重大な懸念事項です。
• 臨床テキストにおけるADE検出の現在の方法は、複雑さと文脈的曖昧さのために課題に直面しています。

研究 の 目的:

• ファインチューニングされた大規模言語モデル（LLM）の臨床テキストにおけるADE検出の有効性を調査すること。
• ADE識別のためのトークン分類およびスパンベースの固有表現認識（NER）アプローチを比較すること。
• ADE関係抽出のエンドツーエンド改善におけるアンサンブル法の影響を評価すること。

主な方法:

• モデルパフォーマンスの評価のために2018 n2c2トラック2データセットを利用しました。
• トークン分類とスパンベースのNERタスクの両方でRoBERTa Largeモデルをファインチューニングしました。
• 定義済み（ゴールドラベル）およびエンドツーエンドの設定でモデルを評価しました。
• 多数決およびXGBoostベースの集計を含むアンサンブル法を実装しました。

主要な成果:

• RoBERTa LargeはADE検出において優れたパフォーマンスを示し、他のモデルを上回りました。
• トークンベースのモデルは、一般的にスパンベースのアプローチよりも高い精度を達成しました。
• アンサンブル法は、個々のモデルの強みを組み合わせることで、エンドツーエンドの関係抽出を大幅に強化しました。
• ADEの特定は、固有の文脈的曖昧さのために依然として困難でした。

結論:

• ファインチューニングされたLLM、特にRoBERTa Largeは、臨床テキストにおけるADE検出を改善するための強力なツールを提供します。
• アンサンブル戦略は、臨床NLPタスクにおけるLLMのパフォーマンスをさらに向上させることができます。
• これらの進歩は、臨床NLPパイプラインを強化し、より安全でパーソナライズされたヘルスケアに貢献する可能性があります。