Evaluación y mitigación de sesgos en sistemas de respuesta a preguntas médicas con aumento de recuperación

Área de la Ciencia:

• Inteligencia Artificial en Medicina
• Procesamiento del Lenguaje Natural
• Informática de la Salud

Sus antecedentes:

• La Generación Aumentada por Recuperación (RAG) mejora los sistemas de respuesta a preguntas (QA) médicas integrando conocimiento externo.
• Los modelos de lenguaje grandes (LLMs) independientes pueden presentar imprecisiones, mientras que los sistemas RAG pueden perpetuar inadvertidamente sesgos demográficos (raza, género, factores socioeconómicos).

Objetivo del estudio:

• Evaluar sistemáticamente los sesgos demográficos en los pipelines RAG médicos.
• Evaluar la efectividad de las estrategias de mitigación de sesgos en la mejora de la equidad y la precisión.

Principales métodos:

• Evaluación en múltiples benchmarks de QA (MedQA, MedMCQA, MMLU, EquityMedQA) utilizando consultas sensibles a la demografía.
• Implementación y comparación de técnicas de mitigación de sesgos: Cadena de Pensamiento, filtrado contrafactual, refinamiento de indicaciones adversarias y agregación de Voto Mayoritario.

Principales resultados:

• Se identificaron disparidades demográficas significativas en la consistencia de la recuperación y la corrección de las respuestas.
• La agregación de Voto Mayoritario demostró mejoras tanto en la precisión como en las métricas de equidad.

Conclusiones:

• Los sistemas RAG médicos exhiben notables sesgos demográficos.
• La recuperación consciente de la equidad y la ingeniería de indicaciones son cruciales para desarrollar sistemas de QA médicos equitativos.