Extracción de relaciones con descripciones de predicados adaptadas a instancias

Área de la Ciencia:

• Procesamiento del Lenguaje Natural
• Extracción de Información
• Aprendizaje Automático

Sus antecedentes:

• La extracción de relaciones (RE) es crucial para el descubrimiento de conocimiento y la respuesta a preguntas.
• Se prefieren modelos de codificador más pequeños para RE, a pesar de que los modelos solo decodificadores sobresalen en tareas generativas.
• Los métodos existentes a menudo utilizan capas lineales fijas para las representaciones de predicados.

Objetivo del estudio:

• Mejorar el rendimiento de la extracción de relaciones utilizando una novedosa arquitectura de codificador dual.
• Desarrollar un método que calcule representaciones de predicados específicas de la instancia.
• Mejorar el ajuste fino de modelos de codificador más pequeños para tareas de RE.

Principales métodos:

• Se desarrolló una novedosa arquitectura de codificador dual con pérdida conjunta contrastiva y de entropía cruzada.
• Un segundo codificador calcula representaciones de predicados específicas de la instancia incorporando extensiones de entidades.
• Se realizaron experimentos en dos conjuntos de datos de RE del dominio biomédico y dos del dominio general.

Principales resultados:

• El enfoque propuesto logró mejoras en la puntuación F1 del 1-2% sobre los métodos de última generación.
• La arquitectura de codificador dual demostró un rendimiento superior tanto en conjuntos de datos biomédicos como generales.
• Los estudios de ablación confirmaron la efectividad de los componentes arquitectónicos.

Conclusiones:

• La novedosa arquitectura de codificador dual ofrece un enfoque simple pero efectivo para la extracción de relaciones.
• Las representaciones de predicados específicas de la instancia mejoran significativamente el rendimiento de RE.
• Este método proporciona un avance valioso para las tareas de extracción de información.