集成学习¶
约 175 个字 预计阅读时间 1 分钟
1.个体与集成¶
2.Boosting¶
2.1 AdaBoost¶
2.2 XGBoost¶
2.3 LightGBM¶
3.Bagging¶
4.Random Forest¶
5.结合策略¶
5.1 平均法¶
简单平均法
加权平均法
5.2 投票法¶
绝对多数投票法
相对多数投票法
加权投票法
类标记和类概率
5.3 学习法¶
Stacking
6.多样性¶
6.1 误差-分歧分解¶
6.2 多样性度量¶
不合度量
相关系数
Q-统计量
\(\kappa\)-统计量
6.3 多样性增强¶
数据样本、输入属性、输出表示、算法参数扰动
7.集成修剪(ensemble pruning)¶
在集成产生之后再试图去除一些个体学习器来获得较小的集成。
并行化集成
基于优化的集成修剪