口唇口蓋裂生成事前学習済みトランスフォーマー：口唇口蓋裂臨床応用のためのパラメータ効率の良いドメイン固有言語モデル

科学分野:

• 医用人工知能
• 自然言語処理
• 医療情報学

背景:

• 汎用大規模言語モデル（LLM）は、口唇口蓋裂（CLP）に関する専門知識が不足していることがよくあります。
• 臨床医や患者向けのCLP教育リソースを補完するために、アクセス可能で正確かつ手頃な価格のAIツールが必要です。

研究 の 目的:

• パラメータ効率の良い専門モデル（CLP-GPT）を開発および評価し、CLPに応用すること。
• 小規模でドメイン固有のモデルが、臨床用途において大規模な汎用モデルに匹敵するパフォーマンスを達成できるかどうかを評価すること。

主な方法:

• 医療対話、文献、ガイドラインから検証済みの質問応答ペア7815件のCLPデータセットをキュレーションしました。
• Qwen2-7B-Instructモデルを、低ランク適応を使用してドメイン適応のためにファインチューニングしました。
• パフォーマンスは、医師および患者の主観的評価と、135件の多肢選択問題の客観的テストを通じて評価されました。

主要な成果:

• CLP-GPTは、ベースライン（p < 0.001）と比較して大幅な改善を示しました。
• 医師の評価では、CLP-GPTの精度はClaude-3.5-SonnetおよびGemini-1.5-Proを上回り、GPT-4oに匹敵することが示されました。
• 患者の評価では、CLP-GPTは主要な大規模モデルと同等のパフォーマンスを示しました。客観的テストでは最高の精度（71.85%）を達成しました。

結論:

• パラメータ効率の良いドメイン固有モデルであるCLP-GPTは、CLPドメインにおいて他のLLMに匹敵するパフォーマンスを達成します。
• この研究は、専門的で費用対効果の高いAIモデルが、大規模な計算リソースを必要とせずに高いパフォーマンスを提供できることを示しています。