Labio leporino y paladar hendido-transformador generativo preentrenado: un modelo de lenguaje específico del dominio...

Área de la Ciencia:

• Inteligencia artificial en medicina
• Procesamiento del lenguaje natural
• Informática médica

Sus antecedentes:

• Los modelos de lenguaje grandes (LLM) de propósito general a menudo carecen de conocimientos especializados en labio leporino y paladar hendido (CLP).
• Se necesitan herramientas de IA accesibles, precisas y asequibles para complementar los recursos educativos de CLP para médicos y pacientes.

Objetivo del estudio:

• Desarrollar y evaluar un modelo especializado y eficiente en parámetros (CLP-GPT) para CLP.
• Evaluar si un modelo más pequeño y específico del dominio puede lograr un rendimiento comparable a los modelos generalistas grandes para uso clínico.

Principales métodos:

• Se curó un conjunto de datos de CLP de 7815 pares de preguntas y respuestas validados a partir de diálogos médicos, literatura y directrices.
• El modelo Wwen2-7B-Instruct se ajustó para la adaptación al dominio utilizando adaptación de bajo rango.
• El rendimiento se evaluó mediante evaluaciones subjetivas de médicos y pacientes y una prueba objetiva de 135 preguntas de opción múltiple.

Principales resultados:

• CLP-GPT demostró mejoras significativas sobre su línea de base (p < 0,001).
• Las evaluaciones de médicos mostraron que la precisión de CLP-GPT superó a Claude-3.5-Sonnet y Gemini-1.5-Pro, y fue comparable a GPT-4o.
• Las evaluaciones de pacientes indicaron que CLP-GPT tuvo un rendimiento comparable a los principales modelos grandes; logró la mayor precisión (71,85%) en la prueba objetiva.

Conclusiones:

• CLP-GPT, un modelo específico del dominio y eficiente en parámetros, logra un rendimiento comparable a otros LLM en el dominio de CLP.
• Esta investigación demuestra que los modelos de IA especializados y rentables pueden ofrecer un alto rendimiento sin requerir recursos computacionales masivos.