一般的なグラフマイニングのための大型言語モデルのグラフ指令チューニング
IEEE transactions on pattern analysis and machine intelligence
|August 26, 2025
まとめ
MuseGraphは,グラフニューラルネットワーク (GNN) と大型言語モデル (LLM) を統合して,汎用的なグラフマイニングを行っています. この基礎モデルは,タスク固有の再訓練なしに,さまざまなグラフタスクとデータセットの精度を高めます.
科学分野:
- 人工知能
- 機械学習
- データサイエンス
背景:
- グラフニューラルネットワーク (GNN) は従来,タスク固有の再訓練を必要とする.
- 大型言語モデル (LLM) は有望ですが,一般的なグラフマイニングでは未開発です.
- 多様なグラフタスクとデータセットのための統一モデルが必要です.
研究 の 目的:
- 汎用グラフマイニングのためのGNNとLLMを統合した新しいフレームワーク,MuseGraphを開発する.
- 単一のモデルで複数のグラフタスクとデータセットを同時に処理できるようにする.
- グラフマイニングのパフォーマンスを向上させながら,LLMの生成能力を高める.
主な方法:
- 言語トークンの効率化のためのコンパクトグラフ記述を開発した.
- LLMの推論を蒸留するためのChain-of-Thought (CoT) との多様な指示生成メカニズムを提案しました.
- 忘却を防止し,相互強化を促進するためにグラフ認識の指示チューニング戦略を設計しました.
主要な成果:
- MuseGraphは5つのグラフタスクと10のデータセットで 顕著な改善を示しました
- このフレームワークは,グラフ指向のダウンストリームタスクの精度を高めます.
- グラフマイニングの性能と並行して,LLM生成能力の改善が観察されました.
結論:
- MuseGraphは一般的なグラフマイニングの強力な基盤モデルを提供します.
- GNNとLLMの統合は将来の研究に有望な方向性を示しています.
- このアプローチは従来のGNNの限界に対処し,LLMのアプリケーションを拡張します.
関連する概念動画
Improving Translational Accuracy
2.7K
2.7K
Vector Algebra: Graphical Method
13.5K
Vectors can be multiplied by scalars, added to other vectors, or subtracted from other vectors. The vector sum of two (or more) vectors is called the resultant vector or, for short, the resultant.
We use the laws of geometry to construct resultant vectors, followed by trigonometry to find vector magnitudes and directions. For a geometric construction of the sum of two vectors in a plane, we follow the parallelogram rule. Suppose two vectors are at arbitrary positions. Translate either one of...
We use the laws of geometry to construct resultant vectors, followed by trigonometry to find vector magnitudes and directions. For a geometric construction of the sum of two vectors in a plane, we follow the parallelogram rule. Suppose two vectors are at arbitrary positions. Translate either one of...
13.5K
Mechanistic Models: Compartment Models in Algorithms for Numerical Problem Solving
100
Mechanistic models play a crucial role in algorithms for numerical problem-solving, particularly in nonlinear mixed effects modeling (NMEM). These models aim to minimize specific objective functions by evaluating various parameter estimates, leading to the development of systematic algorithms. In some cases, linearization techniques approximate the model using linear equations.
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
100
Sieve Analysis and Grading Curves
523
Sieve analysis is a method used to determine the particle size distribution of aggregate materials. This process involves the following steps:
523
Machines: Problem Solving II
367
Machines are complex structures consisting of movable, pin-connected multi-force members that work together to transmit forces. Consider a lifting tong carrying a 100 kg load. It comprises movable sections DAF and CBG linked together with member AB.
367
Block Diagram Reduction
285
The process of deriving the transfer function of a control system often involves reducing its block diagram to a single block. This simplification can be achieved through a series of strategic operations, including relocating branch points and comparators. These operations preserve the overall function of the system while allowing for easier manipulation and combination of blocks.
The first step in this process is the identification and relocation of a branch point. A branch point, where a...
The first step in this process is the identification and relocation of a branch point. A branch point, where a...
285


