Decision Tree And Tree Ensemble Methods

决策树模型和集成方法

这次打算系统梳理树方法和相关集成学习的方法，包括但不限于以下内容（持续更新ing，部分基础内容会长时间pending，预计2020，2021年4月前完成，会整理出一个slides）

• 树模型基础

  • 树模型总结（ID3，C4.5，CART基础树模型，数据处理、剪枝等基础概念）TODO

• Boosting基础：A Review for Boosting

  • Boosting树模型高效工具-xgboost：TODO
  • Boosting树模型高效工具-lightgbm
  • Boosting树模型高效工具-CatBoost：TODO
  • Boosting树模型-扩展（持续更新近几年关于gbdt相关的新paper）：
    • Gradient Boosting with Piece-Wise Linear Regression Trees TODO
    • AugBoos- Gradient Boosting Enhanced with Step-Wise Feature Augmentation TODO
    • XGBoostLSS--An extension of XGBoost to probabilistic forecasting TODO

• Bagging基础

  • 随机森林RF：RandomForest总结 （Working）

• 集成树和深度学习：

  • KDD2019-微软-DeepGBM

• 因果推断相关树模型

  • tree-lift相关 TODO

  • 贝叶斯加法随机森林：BART TODO

  • 因果树 & 因果森林

    • causal tree
    • causal forest（Working）
    • generalized random forest（Working）

  • orthogonal Random Forest（Working）

• 相关扩展

  • Learning Triggers for Heterogeneous Treatment Effects
  • Robust Recursive Partitioning for Heterogeneous Treatment Effects with Uncertainty Quantification