関係抽出におけるインスタンス適応型述語記述

科学分野:

• 自然言語処理
• 情報抽出
• 機械学習

背景:

• 関係抽出（RE）は、知識発見と質問応答にとって重要です。
• デコーダーのみのモデルが生成タスクで優れているにもかかわらず、小さなエンコーダーモデルがREに好まれます。
• 既存の方法では、述語表現に固定線形層が使用されることがよくあります。

研究 の 目的:

• 新しいデュアルエンコーダーアーキテクチャを使用して関係抽出パフォーマンスを向上させる。
• インスタンス固有の述語表現を計算する方法を開発する。
• REタスクのために小さなエンコーダーモデルのファインチューニングを強化する。

主な方法:

• 共同対照およびクロスエントロピー損失を備えた新しいデュアルエンコーダーアーキテクチャが開発されました。
• 2番目のエンコーダーは、エンティティスパンを組み込むことによってインスタンス固有の述語表現を計算します。
• 2つのバイオメディカルおよび2つの一般ドメインREデータセットで実験が実施されました。

主要な成果:

• 提案手法は、最先端手法と比較してF1スコアを1〜2％向上させました。
• デュアルエンコーダーアーキテクチャは、バイオメディカルおよび一般データセットの両方で優れたパフォーマンスを示しました。
• アブレーション研究により、アーキテクチャコンポーネントの効果が確認されました。

結論:

• 新しいデュアルエンコーダーアーキテクチャは、関係抽出のためのシンプルでありながら効果的なアプローチを提供します。
• インスタンス固有の述語表現は、REパフォーマンスを大幅に向上させます。
• この方法は、情報抽出タスクに貴重な進歩を提供します。