臨床人工知能アプリケーションにおける大規模言語モデルの公平性をファインチューニングとプロンプティングによって強化する

科学分野:

• 人工知能
• 医療情報学
• 計算言語学

背景:

• 大規模言語モデル（LLM）は、ヘルスケアのような機密性の高い領域において、倫理的および技術的な課題に直面している。
• トレーニングデータに由来するLLMのバイアスは、不公平、一般化不能、または有害な出力を引き起こし、臨床的適用性と規制遵守を妨げる可能性がある。

研究 の 目的:

• バイアス除去されたプロンプトを使用したファインチューニング済みLLMにおけるバイアス抑制効果を評価する。
• 性別、人種、職業、宗教のカテゴリ全体にわたる公平性と解釈可能性を評価する。

主な方法:

• 多様な推論データセットの手動キュレーション。
• 3つのオープンソースLLM（Llama2-7B、Mistral-7B、Dolly-7B）に対する12のプロンプトバリアント（6つのバイアス除去済み）の開発。
• 公平性と解釈可能性のためのバイアススコアリングメトリックを使用した評価。

主要な成果:

• バイアス除去されたプロンプトは、LLMの出力におけるバイアスを実証的に低減させる。
• モデルのファインチューニングは、バイアスの抑制をさらに強化し、公平性を向上させる。
• 低いバイアススコアは、より良い公平性と解釈可能性を示す。

結論:

• バイアス除去されたプロンプトとモデルのファインチューニングは、LLMのバイアスを軽減するための効果的な戦略である。
• 医療画像やEHRメンテナンスのようなヘルスケア設定における信頼性の高いLLM展開には、堅牢性と継続的な倫理的精査が不可欠である。