Decision Tree And Ensemble Methods

决策树模型和集成方法

这次打算系统梳理树方法和相关集成学习的方法,包括但不限于以下内容(持续更新ing,部分基础内容会长时间pending,预计2020年前完成)

  • 树模型总结(ID3,C4.5,CART基础树模型,数据处理、剪枝等基础概念)
  • Boosting基础:A Review for Boosting
  • Boosting树模型高效工具-xgboost:TODO
  • Boosting树模型高效工具-lightgbm:TODO
  • Boosting树模型-扩展(持续更新近几年关于gbdt相关的新paper):
    • Gradient Boosting with Piece-Wise Linear Regression Trees TODO
    • AugBoos- Gradient Boosting Enhanced with Step-Wise Feature Augmentation TODO
  • Bagging基础:Bagging
  • 集成树和深度学习:
  • 随机森林RF:Random Forest (Working)
  • 贝叶斯加法随机森林:BART TODO
  • 因果树 & 因果森林 causal tree & causal forest (Working)