検索拡張生成（RAG）を用いた医療質問応答システムにおけるバイアスの評価と軽減

科学分野:

• 医療における人工知能
• 自然言語処理
• ヘルスインフォマティクス

背景:

• 検索拡張生成（RAG）は、外部知識を統合することにより、医療質問応答（QA）システムを強化する。
• スタンドアロンの大規模言語モデル（LLM）は不正確さを示す可能性があり、RAGシステムは人口統計学的バイアス（人種、性別、社会経済的要因）を意図せず永続させる可能性がある。

研究 の 目的:

• 医療RAGパイプラインにおける人口統計学的バイアスを体系的に評価する。
• 公平性と精度を向上させるためのバイアス軽減戦略の有効性を評価する。

主な方法:

• 人口統計学的に敏感なクエリを使用した複数のQAベンチマーク（MedQA、MedMCQA、MMLU、EquityMedQA）全体での評価。
• バイアス軽減技術の実装と比較：連鎖思考、反事実フィルタリング、敵対的プロンプト洗練、および多数決集約。

主要な成果:

• 検索の一貫性と回答の正しさにおいて、重大な人口統計学的格差が特定された。
• 多数決集約は、精度と公平性の両方の指標で改善を示した。

結論:

• 医療RAGシステムは、注目すべき人口統計学的バイアスを示す。
• 公平性を意識した検索とプロンプトエンジニアリングは、公平な医療QAシステムを開発するために不可欠である。