跳转至

集成学习

约 175 个字 预计阅读时间 1 分钟

1.个体与集成

2.Boosting

2.1 AdaBoost

2.2 XGBoost

2.3 LightGBM

3.Bagging

4.Random Forest

5.结合策略

5.1 平均法

简单平均法

加权平均法

5.2 投票法

绝对多数投票法

相对多数投票法

加权投票法

类标记和类概率

5.3 学习法

Stacking

6.多样性

6.1 误差-分歧分解

6.2 多样性度量

不合度量

相关系数

Q-统计量

\(\kappa\)-统计量

6.3 多样性增强

数据样本、输入属性、输出表示、算法参数扰动

7.集成修剪(ensemble pruning)

在集成产生之后再试图去除一些个体学习器来获得较小的集成。

并行化集成

基于优化的集成修剪