ADR検出のためのTransformerベースモデル：クロスドラッグ検証と大規模言語モデルとのベンチマーキング

科学分野:

• 薬物警戒と計算言語学。
• 薬剤安全性監視における機械学習の応用。

背景:

• 有害事象（ADR）は、重要な安全性上の懸念事項です。
• ソーシャルメディアは貴重なリアルタイムの患者データを提供しますが、高度な処理が必要です。
• 自然言語処理（NLP）と転移学習は、非構造化テキストの分析に不可欠です。

研究 の 目的:

• GLP-1受容体アゴニストに関するツイートのADR分類のためにファインチューニングされたTransformerモデルを評価すること。
• これらのモデルを最先端の大規模言語モデル（LLM）と比較すること。

主な方法:

• ADRデータセットを使用して、BERT-base、BERTweet-base、およびGPT-2モデルをファインチューニングしました。
• GLP-1受容体アゴニストに言及した396件のツイートでモデルをテストしました。
• F1スコアを使用してパフォーマンスを評価し、ChatGPT 4o、ChatGPT 4o-mini、およびGemini 2.5 Flashと比較しました。

主要な成果:

• BERTweet-baseは、ファインチューニングされたTransformerモデルの中で最高のF1スコア（0.729）を達成しました。
• LLMは優れたパフォーマンスを示し、ChatGPT 4o-miniはF1スコア0.948を達成しました。
• LLMは、ADR分類においてファインチューニングされたTransformerモデルを大幅に上回りました。

結論:

• ファインチューニングされたTransformerモデルは、ソーシャルメディアにおけるADR検出の可能性を示しています。
• 最先端のLLM、特にChatGPT 4o-miniは、薬物警戒のための大幅に改善された機能を提供します。
• LLMは、リアルタイムの薬剤安全性監視のための強力な進歩を表しています。