从优化的角度来看待这个问题
1、gbdt是一种使用数值优化的过程，使用最速下降法来求解损失函数的最优解，其中用牛顿法求解参数更新的步长，用CART(Classification And Regression Tree)分类回归树去拟合负梯度。
2、XGboost使用解析法来进行优化, 将损失函数展开到二阶近似, 求得解析解, 用解析解作为Gain来建立决策树, 得到损失函数近似的最优解。
