GBDT股票

A. gbdt和gradient boost是一样的吗

adaboost AdaBoost算(通迭代弱类器产终强类器算)更释义>> [网络短语] AdaBoost AdaBoost,AdaBoost,自适应增强 Gentle AdaBoost 平缓,平缓Adaboost AdaBoost algonithm 号码识别

B. 为什么 CTR 预估中，GBDT + LR 模型的效果要比单纯使用 GBDT 好

在统计学，统计决策理论和经济学中，损失函数是指一种将一个事件（在一个样本空间中的一个元素）映射到一个表达与其事件相关的经济成本或机会成本的实数上的一种函数。

C. GBDT是如何来做二分类的

GBDT做二分类可以使用sigmoid函数来输出概率，损失函数使用交叉熵函数，每次计算交叉熵的负梯度来拟合

D. gbdt怎么用在 点击率预测中

gbdt是可以直接得到概率的，具体题主可以参见"Greedy function approximation: a gradient boosting machine" 中section 4.5 two class logistic regression. 即使单独使用gbdt也是可以达到比较高的准确率的。同时也有很多问题需要注意，比如用down sampling处理class imbalance，预测结果的calibration等等

E. 从原理上来说，GBDT 和 SVM 哪个更强为什么

两个classifier到底哪个好？或许有人会说这样简单的判定哪个好哪个不好很幼稚，每一个classifier都有它的优缺点，但是看看CVPR每年的几百篇论文，这两个classifier的地位很难有任何其他的算法能比吧？

F. GBDT是一次读入所有数据吗

GBDT训练时是一次对所有数据进行训练

G. GBDT怎么做回归问题

GBDT做回归根据损失函数的负梯度来进行拟合，回归问题通常用平方损失函数，求梯度后就相当于残差，每一个建树过程都对前一棵树的残差进行拟合

H. gbdt算法是什么

如下图：

在建立GBDT对象并作fit之后，可以使用如下代码获得要的规则代码：

dot_data = tree。export_graphviz(model_tree， out_file=None，

max_depth=5， feature_names=names_list， filled=True， rounded=True) # 将决策树规则生成dot对象。

模型最终可以描述为：

Fm(x)=∑m=1MT(x;θm)Fm(x)=∑m=1MT(x;θm)

模型一共训练M轮，每轮产生一个弱分类器T(x;θm)T(x;θm)。弱分类器的损失函数

θ^m=argminθm∑i=1NL(yi,Fm−1(xi)+T(xi;θm))θ^m=arg⁡minθm⁡∑i=1NL(yi,Fm−1(xi)+T(xi;θm))

Fm−1(x)Fm−1(x)为当前的模型，gbdt通过经验风险极小化来确定下一个弱分类器的参数。具体到损失函数本身的选择也就是L的选择，有平方损失函数，0-1损失函数，对数损失函数等等。如果我们选择平方损失函数，那么这个差值其实就是我们平常所说的残差。

I. gbdt的特征有必要onehot吗

查了一下，包括之前也有人告诉我，基于树模型的离散特征都不用转OneHot