集成学习 与 融合学习
- 实战参考链接:德国风控案例--进阶4
集成学习
这个案例主要使用了集成学习和融合学习的方法,集成学习一般包括并行Bagging和串行Boosting。
并行Bagging主要包括:随机森林(RF);串行Boosting:Adaboost、GBDT(一阶差分)、XGB(二阶差分)。
融合学习
Blending
Stacking:上述案例的code,我觉得我写得有点问题,而且Stacking的逻辑图也画的有些问题。问题出在哪里?
(1) code写的有问题, (2) 图有问题。 如果对stacking不了解的同学,可以看 【机器学习】集成学习之stacking
Datawhale有一篇文章写的很好,大家可以参考:一文学习模型融合!从加权融合到stacking, boosting
这篇Kaggle提升模型性能的超强杀招Stacking——机器学习模型融合 写的也是挺不错的,作者也给出了一些模型融合的感悟:
一级模型要表现的优秀,说Stacking是一种特征转换也是很有道理的。