证实了基于树的机器学习算法的统计学上显著优越性,而不是它们对表格数据的同行
1School of Project Management, Faculty of Engineering, The University of Sydney, Forest Lodge, NSW, Australia.
基于树的机器学习 (ML) 算法,包括决策树和随机森林,明显优于非基于树的方法. 200个数据集的统计验证证实了它们在准确性,精度,回忆和F1分数方面的卓越表现.
科学领域:
- 计算机科学 计算机科学
- 数据科学数据科学数据科学
- 统计建模 统计建模
背景情况:
- 个别研究表明,基于树的机器学习 (ML) 算法表现优于其他算法.
- 对于这些观察到的优势,缺乏全面的统计验证.
- 本研究旨在通过严格评估ML算法性能来弥合这一差距.
研究的目的:
- 为了统计验证基于树的ML算法的优越性,而不是基于树的算法.
- 将决策树和随机森林与支持向量机器,后勤回归和k-最近邻居进行比较.
- 评估各种研究环境中的绩效,包括疾病预测和大学排名.
主要方法:
- 使用了五个ML算法:决策树,随机森林,支持向量机,物流回归和k-最近邻居.
- 对200个不同的,开放式访问数据集进行了分析.
- 雇佣了配对样本t测试来评估四个关键指标的性能差异:准确性,精度,回忆和F1分数.
主要成果:
- 配对样本t测试表明,决策树和随机森林在非树基算法上都具有统计学上显著 (p<0.001) 的优势.
- 在模型开发和测试阶段,这种性能优势在所有四个指标 (准确性,精度,回忆,F1分数) 中都是一致的.
- 基于树的算法的优越性在来自疾病预测和大学排名背景的数据集子集中得到证实.
结论:
- 基于树的ML算法,特别是决策树和随机森林,与非基于树的替代方案相比,提供了统计验证的优异性能.
- 这些发现适用于各种ML性能指标和研究领域,包括疾病预测等专业领域.
- 这项研究提供了强有力的证据,支持基于树的ML算法的广泛采用,用于增强的预测建模.
更多相关视频
07:35Selecting Multiple Biomarker Subsets with Similarly Effective Binary Classification Performances
Published on: October 11, 2018
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
相关概念视频
Survival Tree
Building a Survival Tree
Constructing a...
Statistical Inference Techniques in Hypothesis Testing: Parametric Versus Nonparametric Data
Parametric statistics, as the name suggests, assumes that data follow a specific distribution, often a normal distribution. This assumption enables robust hypothesis testing and estimation. Parametric methods, like the Student's t-test or Goodness-of-fit test, are frequently employed in biostatistics due to their robustness. For instance,...
Statistical Methods to Analyze Parametric Data: Student t-Test and Goodness-of-Fit Test
The Student's t-test is a statistical test that examines if there is a statistically significant difference between the means of two groups. This test is instrumental when dealing with...
Evolutionary Relationships through Genome Comparisons
Comparing the Survival Analysis of Two or More Groups
Introduction to R
