xgboost算法原理简介,xgboost算法python实现
转载:https://yxzf.github.io/2017/04/XG Boost-v2/
分位数:点
近似算法论文给出了两种近似算法。一种是全局算法,用于在初始化树时分裂候选点,并在树的每一层使用这些候选点。另一种是每次重新计算分割候选点的局部算法。两者各有利弊。全局算法不需要多次计算候选节点,但是需要一次获得更多的候选节点用于后续的树生长。另一方面,局部算法可以一次获得较少的候选节点,因此可以在分支过程中不断改进。这意味着它适合更深的树生长。两者都是通过效果和准确性来封闭的。
文献[5]中的实验表明,如果全局K分位数为20,局部K分位数为3,可以得到近似的效果。
参考
【1】-近似分位数
[2]空间效率计算组件
【3】afastalgorithm for approximate quantiles in highspeed datastreams
[4] GK峰会算法(大约百分位数)
XG boost:ascalabletreebboostingsystem
[6] XGBoost的分位数算法
[7] XG Boost解释(2)近似分割算法
[8] XGBoost的分位数算法
[9] 《喜欢机器学习》综合学习(3) XG增强
分位数和加权分位数的区别:
站点(按特征大小排序、按特征数量加权(均分)、按特征大小排序、按二阶差分排序(均分)转载)http://data valley.github
XG boost的分位数算法
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。