低リソース日本語NERのための生成およびクロスリンガルメタ学習を用いた共同スパンエンティティ予測アプローチ

科学分野:

• 自然言語処理
• 機械学習
• 計算言語学

背景:

• 低リソース日本語少サンプル固有表現認識（NER）は、注釈の制限とクロスリンガルアライメントの問題により課題に直面しています。
• 既存の方法は、境界の曖昧さとデータの不足に対処するのに苦労しており、専門分野でのパフォーマンスを妨げています。

研究 の 目的:

• 低リソース日本語少サンプルNERのための階層的動的メタ学習フレームワーク（MAML-ProtoNet++）を開発すること。
• 生成拡張、クロスリンガル事前学習、および共同スパンエンティティ予測を統合することにより、エンティティ認識の精度と堅牢性を向上させること。

主な方法:

• 生成拡張（mT5疑似サンプル）と信頼度スクリーニングを使用したMAML-ProtoNet++フレームワークを利用しました。
• WikiDataからの日本語-英語エンティティペアをアライメントするために、クロスリンガル対照事前学習（NT-Xent）を採用しました。
• マルチグレインリティエンコーディングと共同スパンタイプモジュールを使用して、MAMLスタイルの高速適応とProtoNetスタイルのプロトタイプマッチングを統合しました。

主要な成果:

• 5ショット日本語少サンプルNER設定で0.772のマクロF1スコアを達成しました。
• クロスリンガル事前学習により、日本語-英語エンティティペアのコサイン類似性を0.61から0.85に改善しました。
• 動的パラメータ制御を使用した高複雑性タスクで0.73を超えるF1スコアを示し、堅牢性を示しました。

結論:

• MAML-ProtoNet++は、低リソース日本語少サンプルNERの制限を効果的に対処します。
• このフレームワークは強力な転移性と堅牢性を示し、以前の方法を上回っています。
• 統合アプローチは、データが不足しているシナリオでの固有表現認識機能を大幅に強化します。