MedVH: Hacia la evaluación sistemática de la alucinación para modelos de lenguaje de visión grande en el contexto...

Área de la Ciencia:

• Inteligencia artificial
• La informática médica
• Visión por computadora

Sus antecedentes:

• Los modelos de lenguaje visual grande (LVLM) sobresalen en las tareas de imagen y texto naturales.
• La robustez contra las alucinaciones en entornos clínicos para los LVLM no ha sido estudiada.
• Las evaluaciones existentes no abordan adecuadamente las alucinaciones médicas específicas.

Objetivo del estudio:

• Introducir el marco de la prueba de alucinación visual médica (MedVH).
• Evaluar las tendencias a las alucinaciones tanto en los LVLM médicos como en los generales.
• Proporcionar una base para futuras investigaciones sobre IA médica confiable.

Principales métodos:

• Desarrolló MedVH, un nuevo marco de evaluación para alucinaciones visuales médicas.
• Incluye seis tareas: dos tradicionales y cuatro novedosas (AQV de múltiples opciones, generación de respuestas largas).
• Experimentado con seis métricas de evaluación en varios LVLM.

Principales resultados:

• Los LVLM médicos exhiben una sensibilidad significativa a las alucinaciones, que a menudo exceden los modelos generales.
• A pesar del buen desempeño en las tareas médicas estándar, los modelos específicos de dominio muestran tasas de alucinación más altas.
• Esto pone de relieve las preocupaciones con respecto a la fiabilidad de la IA médica especializada.

Conclusiones:

• Los LVLM médicos requieren un razonamiento sólido para evitar alucinaciones e integrar con precisión el conocimiento médico.
• La ingeniería rápida y la colaboración de modelos son prometedoras para mitigar las alucinaciones sin ajustes finos.
• El conjunto de datos de MedVH está disponible en PhysioNet para futuras investigaciones.