MedVH: 医学的な文脈における大きな視覚言語モデルにおける幻覚の体系的な評価に向けて
Zishan Gu1,2, Jiayuan Chen1,2, Fenglin Liu3
1Department of Computer Science and Engineering, The Ohio State University, Columbus, Ohio 43210, USA.
まとめ
医学的な大きな視覚言語モデル (LVLMs) は 一般的なモデルよりも 幻覚への高い傾向を示しています 臨床環境での信頼性を確保するために MedVHのような新しい評価枠組みが必要です.
科学分野:
- 人工知能
- 医療情報学
- コンピュータ・ビジョン
背景:
- 大型の視覚言語モデル (LVLM) は自然画像とテキストタスクに優れています.
- LVLMの臨床環境における幻覚に対する強度についてはあまり研究されていません.
- 既存の評価は 医療特有の幻覚に 適切に対応していません
研究 の 目的:
- 医学視覚幻覚テスト (MedVH) の枠組みを紹介する.
- 医学的および一般的なLVLMの両方で幻覚傾向を評価する.
- 信頼性の高い医療AIに関する将来の研究のための基盤を提供すること.
主な方法:
- メディカル・ビジュアル・ハルシナーションの 評価のための新しい枠組みを 開発しました
- 伝統的な2つと新しい4つ (複数選択のVQA,長期応答生成) の6つのタスクが含まれています.
- 6つの評価指標を様々な LVLM で実験しました.
主要な成果:
- 医療用 LVLM は 幻覚に対する感受性が高く 一般的なモデルを上回る傾向があります
- 標準的な医療課題の 優れた性能にもかかわらず 領域特有のモデルでは 幻覚の発生率が高くなります
- これは専門的な医療AIの信頼性に関する懸念を浮き彫りにしています
結論:
- 医学的 LVLMには 幻覚を予防し 医学的知識を正確に統合するために 堅実な推論が必要です
- 機敏なエンジニアリングと モデルのコラボレーションは 微調整なしに 幻覚を緩和する見込みです
- MedVHのデータセットは,さらなる研究のためにPhysioNetで利用できます.
さらに関連する動画
関連する概念動画
Positive Symptoms Schizophrenia: Hallucinations and Delusions
131
Schizophrenia is a complex psychiatric disorder characterized by a range of symptoms that significantly impact cognition, behavior, and emotional regulation. Among these, the positive symptoms stand out as they involve the addition or exaggeration of normal mental functions, deviating markedly from typical behavior and perception. Hallucinations and delusions are prominent positive symptoms, each profoundly affecting the individual's experience of reality.
Hallucinations
Hallucinations in...
Hallucinations
Hallucinations in...
131
Positive Symptoms of Schizophrenia: Hallucinations and Delusions
217
Schizophrenia is a complex mental health disorder that can manifest with various positive symptoms, including thought, movement, and behavior disorders. These symptoms significantly disrupt cognitive and motor functions, leading to profound effects on an individual's ability to engage with the world.
Thought Disorders
Disorganized and unusual thought processes mark thought disorders in schizophrenia. One key feature is disorganized speech, where an individual's conversation includes...
Thought Disorders
Disorganized and unusual thought processes mark thought disorders in schizophrenia. One key feature is disorganized speech, where an individual's conversation includes...
217
Hallucinogens and Psychedelics
284
Hallucinogens are psychoactive substances that profoundly alter perceptual experiences, generating unreal visual and sensory images. Often referred to as psychedelic drugs — a term derived from the Greek words "psyche" (mind) and "delos" (revealing) — these substances include marijuana and lysergic acid diethylamide (LSD), among others. These drugs vary in intensity and effects.
Marijuana, derived from the dried leaves and flowers of the hemp plant, contains...
Marijuana, derived from the dried leaves and flowers of the hemp plant, contains...
284


