有限データのための転移エントロピー
1University of Hong Kong, University of Hong Kong, University of Hong Kong, Institute of Data Science, Hong Kong SAR, China; Department of Urban Planning and Design, Hong Kong SAR, China; and Urban Systems Institute, Hong Kong SAR, China.
この研究は、離散データのための新しい転移エントロピー尺度を導入し、小さいまたは高カーディナリティ時系列分析におけるバイアスと有意性の問題を克服します。シミュレーションなしで情報フローの信頼性の高い評価を可能にします。
科学分野:
- 複雑系分析
- 情報理論
- 時系列分析
背景:
- 転移エントロピーは、方向性のある情報フローを定量化しますが、連続データでは課題に直面します。
- 離散データの場合、疎なカウントによる正のバイアスに苦しみ、統計的有意性の評価が欠けています。
- 既存の方法は、小さいサイズまたは高いカーディナリティの有限データストリームでは苦労します。
研究 の 目的:
- 有限離散データストリームのための新しい転移エントロピー尺度を開発すること。
- 既存の推定値の限界、特にバイアスと有意性検定の欠如に対処すること。
- シミュレーションに依存せずに、統計的有意性のノンパラメトリックな評価を可能にすること。
主な方法:
- 有限データストリームの情報量を計算することにより、新しい転移エントロピー尺度を導出しました。
- シンボルを確率変数として明示的に考慮することを避けました。
- 標準的なプラグイン推定値との漸近的等価性を確保しました。
主要な成果:
- 新しい尺度は、標準的なプラグイン推定値と漸近的に同等です。
- 疎なビンカウントに関連する正のバイアスの問題を効果的に修正します。
- 有限時系列の統計的有意性の完全にノンパラメトリックな評価を可能にします。
- この方法は、小さいサイズおよび/または高いカーディナリティの時系列に適しています。
結論:
- 提案された転移エントロピー尺度は、離散有限データの情報フローを分析するための堅牢なソリューションを提供します。
- 従来のメソッドの重大な制限を克服し、信頼性と解釈可能性を高めます。
- 複雑系における方向性のある情報転送の厳密な統計的検証を可能にします。
さらに関連する動画
09:23Quantification of Information Encoded by Gene Expression Levels During Lifespan Modulation Under Broad-range Dietary Restriction in C. elegans
Published on: August 16, 2017
11:15Applications of EEG Neuroimaging Data: Event-related Potentials, Spectral Power, and Multiscale Entropy
Published on: June 27, 2013
関連する概念動画
Entropy and the Second Law of Thermodynamics
The relation between entropy and disorder can be illustrated with the example of the phase change of ice to water. In ice, the molecules are located at specific sites giving a solid state, whereas, in a liquid form, these molecules are much freer to move. The molecular arrangement has therefore become more randomized. Although the change in average...
Entropy
When an ideal gas expands isothermally, the disorder in the gas increases. From the molecular perspective, the gas molecules have more volume to move around in.
Consider an infinitesimal step in the expansion, which...
Entropy
Entropy Change in Reversible Processes
The statement can be further generalized to prove that entropy is a state function. Take a cyclic process between any two points on a p-V diagram.
The Second Law of Thermodynamics
Gibbs Free Energy
