1. 记住损失函数的公式,并且不要忘了后面的约束项(在adboost和GBDT中约束是0)
2. 除了adaboost classifier的基是分类树,其他的所有的boost算法(GBDTClassifer, GBDTRegressor,XGBoostClassifer, XBoostRegressor)的基是回归树
3. 强行的记住Xgboost中损失函数的约束项是一个是对新的模型的叶节点总个数的惩罚吗,另外一个约束项是对新模型的叶节点的预测值的L2范式惩罚!
4. 拓展!有时间,自己强行手推出所有的boost的解。
三个资料Q群下载不了也转发不了,先放这里Fine_tuning.zipLangChain.zipdata_clear.rar