Mejora de la Equidad en Modelos Lingüísticos Grandes para Aplicaciones Clínicas de Inteligencia Artificial Mediante...

Área de la Ciencia:

• Inteligencia Artificial
• Informática Médica
• Lingüística Computacional

Sus antecedentes:

• Los Modelos Lingüísticos Grandes (LLM) se enfrentan a desafíos éticos y técnicos en dominios sensibles como la atención sanitaria.
• Los sesgos en los LLM, derivados de los datos de entrenamiento, pueden generar resultados injustos, poco generalizables o perjudiciales, lo que dificulta su aplicabilidad clínica y el cumplimiento normativo.

Objetivo del estudio:

• Evaluar la eficacia de la supresión de sesgos en LLM ajustados con peticiones sin sesgos.
• Evaluar la equidad y la interpretabilidad en las categorías de género, raza, profesión y religión.

Principales métodos:

• Curación manual de un conjunto de datos de inferencia diverso.
• Desarrollo de doce variantes de petición (seis sin sesgos) para tres LLM de código abierto (Llama2-7B, Mistral-7B, Dolly-7B).
• Evaluación mediante una métrica de puntuación de sesgos para la equidad y la interpretabilidad.

Principales resultados:

• Las peticiones sin sesgos reducen demostrablemente los sesgos en las salidas de los LLM.
• El ajuste fino de los modelos mejora aún más la supresión de sesgos y la equidad.
• Las puntuaciones de sesgo más bajas indican una mejor equidad e interpretabilidad.

Conclusiones:

• Las peticiones sin sesgos y el ajuste fino del modelo son estrategias eficaces para mitigar el sesgo de los LLM.
• La robustez y el escrutinio ético continuo son cruciales para el despliegue confiable de LLM en entornos sanitarios como la imagen médica y el mantenimiento de registros electrónicos de salud.