ヘルスケアにおける人工知能ベースのコンピューター知覚ツールの信頼性に関するステークホルダーの基準：質的インタビュー調査

科学分野:

• デジタルメンタルヘルス。ヒューマンコンピュータインタラクション。臨床情報学。

背景:

• コンピューター知覚（CP）技術は、メンタルヘルスの洞察のためにパッシブセンシングデータを分析します。
• CPのヘルスケアへの実装は、ステークホルダーの信頼の確立にかかっています。

研究 の 目的:

• 青年、介護者、臨床医、開発者の間でCP技術の信頼要因を調査します。
• ヘルスケア設定でCPツールが信頼できると見なされる条件を特定します。

主な方法:

• 多様なステークホルダーグループ（青年、介護者、臨床医、開発者）との80回の半構造化インタビューを実施しました。
• 質的データの解釈のために多段階の誘導的テーマコンテンツ分析を利用しました。

主要な成果:

• 認識論的整合性、実証された厳密性、説明可能性、複雑性への感度、および非代替的役割という5つの信頼の前提条件を特定しました。
• 認識論的整合性（信念との出力の一貫性）は、支配的でありながら潜在的に偏った信頼要因として浮上しました。
• 推薦による関係的信頼が観察されましたが、検証なしの誤った信頼の懸念が生じます。

結論:

• AIベースのCP技術への信頼は、認知ヒューリスティック、社会的要因、および認識論的整合性によって形成され、技術的パフォーマンスのみによって形成されるわけではありません。
• バイアスを軽減し、批判的評価を確実にするために、検証/監視のための制度的枠組みと臨床医のトレーニングを推奨します。
• 倫理的かつ効果的なCPのメンタルヘルスケアへの統合のために、実際のシステム容量に向けた信頼の再調整が不可欠です。