監査モデルによる不適切な人工知能予測の抑制は、人間と人工知能の協調パフォーマンスを向上させることができる | JoVE Visualize

科学分野:

ヘルスケアAI;臨床意思決定支援システム;機械学習の公平性

背景:

機械学習（ML）はヘルスケアでますます使用されていますが、サブポピュレーション全体で不公平を示す可能性があります。臨床医のMLへの過度の依存は、既存のバイアスを永続させる可能性があります。信頼性の低い予測をサイレンスにするMLサプレッションは、これらの問題を軽減する可能性を示しています。

研究の目的:

臨床医とAIの間の協調的公平性に対するMLサプレッションの影響を評価すること。MLパフォーマンスを監査するための指標としてMLの不確実性を評価すること。

主な方法:

ヴァンダービルト大学医療センターとMIMIC-IV-EDの電子健康記録データを利用しました。勾配ブースティングツリーとオラクルモデルを使用して、患者の転帰（死亡、ICU転送、30日再入院）を予測しました。臨床医によるML予測の受け入れをシミュレートし、パフォーマンス（AUC）と公平性（平均オッズ差）を測定しました。

主要な成果:

MLサプレッションは、MLパフォーマンスが優れている場合には単独の臨床医よりも優れたパフォーマンスを発揮し、公平性を低下させませんでした。臨床医がMLよりも優れたパフォーマンスを発揮した場合、サプレッションは公平性を大幅に低下させませんでした。不確実性の定量化を統合することで、サプレッションベースのアプローチが改善されました。

結論:

サプレッションによるML予測の監査は、協調的な人間とAIのパフォーマンスと公平性を向上させるための有望な方法を示しています。サプレッションは、最適とは言えないMLモデルへの過度の依存から生じる問題を効果的に解決します。