JoVE - Journal of Visualized Experiments
JoVE Visualize
Contact Us
Esta página ha sido traducida por una máquina. Otras páginas pueden seguir apareciendo en inglés. View in English

MedVH: Hacia la evaluación sistemática de la alucinación para modelos de lenguaje de visión grande en el contexto médico

  • 0Department of Computer Science and Engineering, The Ohio State University, Columbus, Ohio 43210, USA.
Advanced Intelligent Systems (weinheim an Der Bergstrasse, Germany) +

|

22 de agosto de 2025

|

22 de agosto de 2025

Ver abstracta en PubMed

Resumen

Este resumen es generado por máquina.

Los modelos médicos de lenguaje de visión grande (LVLM) muestran una alta tendencia a la alucinación, incluso más que los modelos generales. Se necesitan nuevos marcos de evaluación como MedVH para garantizar la fiabilidad en entornos clínicos.

Área De La Ciencia

  • Inteligencia artificial
  • La informática médica
  • Visión por computadora

Sus Antecedentes

  • Los modelos de lenguaje visual grande (LVLM) sobresalen en las tareas de imagen y texto naturales.
  • La robustez contra las alucinaciones en entornos clínicos para los LVLM no ha sido estudiada.
  • Las evaluaciones existentes no abordan adecuadamente las alucinaciones médicas específicas.

Objetivo Del Estudio

  • Introducir el marco de la prueba de alucinación visual médica (MedVH).
  • Evaluar las tendencias a las alucinaciones tanto en los LVLM médicos como en los generales.
  • Proporcionar una base para futuras investigaciones sobre IA médica confiable.

Principales Métodos

  • Desarrolló MedVH, un nuevo marco de evaluación para alucinaciones visuales médicas.
  • Incluye seis tareas: dos tradicionales y cuatro novedosas (AQV de múltiples opciones, generación de respuestas largas).
  • Experimentado con seis métricas de evaluación en varios LVLM.

Principales Resultados

  • Los LVLM médicos exhiben una sensibilidad significativa a las alucinaciones, que a menudo exceden los modelos generales.
  • A pesar del buen desempeño en las tareas médicas estándar, los modelos específicos de dominio muestran tasas de alucinación más altas.
  • Esto pone de relieve las preocupaciones con respecto a la fiabilidad de la IA médica especializada.

Conclusiones

  • Los LVLM médicos requieren un razonamiento sólido para evitar alucinaciones e integrar con precisión el conocimiento médico.
  • La ingeniería rápida y la colaboración de modelos son prometedoras para mitigar las alucinaciones sin ajustes finos.
  • El conjunto de datos de MedVH está disponible en PhysioNet para futuras investigaciones.

Palabras clave:

Videos de Conceptos Relacionados

Positive Symptoms Schizophrenia: Hallucinations and Delusions 01:26

131

Schizophrenia is a complex psychiatric disorder characterized by a range of symptoms that significantly impact cognition, behavior, and emotional regulation. Among these, the positive symptoms stand out as they involve the addition or exaggeration of normal mental functions, deviating markedly from typical behavior and perception. Hallucinations and delusions are prominent positive symptoms, each profoundly affecting the individual's experience of reality.
Hallucinations
Hallucinations in...

Positive Symptoms of Schizophrenia: Hallucinations and Delusions 01:30

217

Schizophrenia is a complex mental health disorder that can manifest with various positive symptoms, including thought, movement, and behavior disorders. These symptoms significantly disrupt cognitive and motor functions, leading to profound effects on an individual's ability to engage with the world.
Thought Disorders
Disorganized and unusual thought processes mark thought disorders in schizophrenia. One key feature is disorganized speech, where an individual's conversation includes...

Hallucinogens and Psychedelics 01:27

284

Hallucinogens are psychoactive substances that profoundly alter perceptual experiences, generating unreal visual and sensory images. Often referred to as psychedelic drugs — a term derived from the Greek words "psyche" (mind) and "delos" (revealing) — these substances include marijuana and lysergic acid diethylamide (LSD), among others. These drugs vary in intensity and effects.
Marijuana, derived from the dried leaves and flowers of the hemp plant, contains...