¿Qué importancia tiene el entrenamiento previo y el ajuste de la instrucción del modelo de lenguaje específico para...

Área de la Ciencia:

• Procesamiento del lenguaje natural biomédico (PNL)
• Aprendizaje automático
• Lingüística computacional

Sus antecedentes:

• Los avances en la PNL en general, incluidos los modelos de lenguaje generativo (LM), el ajuste fino de la instrucción y el aprendizaje de pocos disparos, se aplican cada vez más al dominio biomédico.
• Se han desarrollado LM y métodos de ajuste finos específicos para tareas biomédicas, con el objetivo de mejorar el rendimiento a través de datos de capacitación especializados.

Objetivo del estudio:

• Investigar la eficacia de los modelos de lenguaje de dominio biomédico en comparación con los modelos de dominio general para la tarea de extracción de relaciones.
• Evaluar el impacto de la puesta a punto de la instrucción biomédica frente a la puesta a punto de la instrucción general en el rendimiento del modelo para las tareas de PNL biomédica.

Principales métodos:

• Utilizó modelos de lenguaje existentes previamente entrenados en corpora generales y biomédicos.
• Modelos probados en cuatro conjuntos de datos de extracción de relaciones biomédicas distintas.
• Comparó el rendimiento de LM específicos de dominio con LM generales y evaluó el efecto del ajuste fino de instrucciones en varios conjuntos de datos.

Principales resultados:

• Los modelos de lenguaje de dominio general superaron constantemente a los modelos de dominio biomédico en las tareas de extracción de relaciones.
• El ajuste de instrucciones biomédicas mejoró significativamente el rendimiento del modelo, logrando resultados comparables al ajuste de instrucciones generales.
• Se observaron ganancias de rendimiento del ajuste fino de la instrucción biomédica a pesar de utilizar sustancialmente menos instrucciones que los conjuntos de datos de ajuste fino generales.

Conclusiones:

• Los hallazgos sugieren que el desarrollo de LMs biomédicos específicos a gran escala puede ser menos efectivo que centrarse en una extensa instrucción de ajuste fino de LMs generales para la PNL biomédica.
• La investigación futura debe priorizar la instrucción biomédica a gran escala y el ajuste fino de los LM generales para mejorar el rendimiento en tareas posteriores como la extracción de relaciones.