ChatGPT トリアージ勧告の構造化テストにおける健康パフォーマンス
Ashwin Ramaswamy1, Alvira Tyagi2, Hannah Hugo3
1The Milton and Carroll Petrie Department of Urology, Icahn School of Medicine at Mount Sinai and Mount Sinai Health System, New York, NY, USA. ashwin.ramaswamy@mountsinai.org.
AIのトリアージツールであるChatGPT Healthは,52%の緊急事態を逃し,糖尿病性ケトアシドーシスのような重大な状態の治療を遅らせることを推奨しました. 安全性に関する懸念は,広範な使用前にさらなる検証を必要とします.
科学分野:
- 医療情報工学 医療情報工学
- 医療における人工知能
- 臨床的意思決定支援について
背景:
- OpenAIは2026年1月に消費者保健ツールとしてChatGPT Healthを立ち上げました.
- 人工知能を駆使するトリアージシステムは,公共の利用のためにますます開発されています.
研究 の 目的:
- ChatGPT Healthのトリアージ勧告の構造化ストレステストを実施する.
- AI主導の医療トリアージにおける潜在的な安全性問題と故障モードを特定する.
主な方法:
- 21の臨床領域にわたる60の臨床医が作成したヴィニエットを用いてストレステストを実施しました.
- 合計960件の回答を16の因数条件で分析した.
- 固定バイアスと危機介入メッセージのアクティベーションの影響を評価した.
主要な成果:
- 性能は,臨床的極端 (非緊急および緊急) での失敗で,逆転したU型パターンを示しました.
- このシステムは,糖尿病性ケトアシドーシスや迫り来る呼吸器不全を含む,ゴールドスタンダード緊急事態の52%を過小評価した.
- アンカリングバイアスは,トリアージの推奨を,より緊急でないケア (OR 11.7) に向けて大幅にシフトさせた.
- 自殺念頭に対する危機介入メッセージが予測不能に起動した.
結論:
- ChatGPT Healthは,高リスクの緊急事態を逃し,不一致の危機介入を含む,重大な安全上の懸念を示した.
- 将来の検証は,AIトリアージシステムの消費者規模での展開の前に極めて重要です.
- AIトリアージシステムは,患者の安全性と有効性を保証するために厳格なテストを必要とします.
さらに関連する動画
07:31A Computerized Functional Skills Assessment and Training Program Targeting Technology Based Everyday Functional Skills
Published on: February 13, 2020
09:52Setting Up a Stroke Team Algorithm and Conducting Simulation-based Training in the Emergency Department - A Practical Guide
Published on: January 15, 2017
関連する概念動画
Pulmonary Function Tests
Pulmonary Function Tests are crucial diagnostic tools for assessing respiratory function, particularly in patients with chronic respiratory disorders. They comprehensively evaluate lung volumes, ventilatory function, breathing mechanics, diffusion, and gas exchange. These tests help diagnose pulmonary diseases and play a significant role in monitoring disease progression, evaluating disability, and assessing response to therapy.
PFTs involve using a spirometer, a...
Pre-Procedural Guidelines for Assessing Blood Pressure
Exercise Stress Test
Exercise stress testing, commonly known as a treadmill test, is a noninvasive procedure used to evaluate cardiovascular function and diagnose heart conditions.
Definition
An exercise stress test measures the heart's response to exertion using a treadmill or stationary bicycle. Chest electrodes record the heart's electrical activity through an ECG, and blood pressure is monitored regularly.
Purposes
Assessment of the Gastrointestinal System II: Health Perception Pattern
Health Perception Patterns
Health perception patterns offer valuable insights into a patient's lifestyle habits and how they may impact their GI health. These patterns include:
