医療自律システムにおける責任あるAIのための検証済みフレームワーク

科学分野:

• ヘルスケア技術
• 医療における人工知能（AI）
• 臨床情報学

背景:

• AI搭載自律システムは、信頼性と安全性の懸念から医療での採用障壁に直面しています。
• 既存の概念的な作業は、臨床および規制の設定での実際的な応用に向けて経験的な検証が必要です。

研究 の 目的:

• AIの医療への安全かつ責任ある統合のための洗練されたフレームワークを導入し、経験的に検証すること。
• 臨床医、開発者、規制当局、調達機関に実行可能なガイダンスを提供すること。

主な方法:

• 15人の多様なドメイン（臨床、技術、倫理、規制）の専門家への半構造化インタビューを通じて、初期フレームワークを開発しました。
• 10人の新しい参加者による定量的評価と定性的フィードバックを使用してフレームワークを検証しました。
• ISO 21448およびNIST AIリスク管理フレームワークなどの国際標準との整合性を確保しました。

主要な成果:

• 洗練されたフレームワークは、検証中に妥当性、明瞭性、ユーザビリティに関して高いスコアを達成しました。
• 参加者は、責任あるAI採用のためのフレームワークの実用性を強く支持しました。
• フレームワークは、技術的、倫理的、運用上のカテゴリにわたる10の次元で構成されています。

結論:

• 検証済みのフレームワークは、医療における自律AIシステムの評価と監視のための構造化されたツールを提供します。
• データ品質、説明可能性、公平性、人間とAIの協力などの重要な問題に対処します。
• フレームワークは、臨床および規制の状況における採用障壁を克服し、AIの責任ある統合を促進します。