数据挖掘-数据科学专业问答社区-CDA答疑社区

热线电话：13121318867

登录

dreamhappy2012

Boosting与Bagging比较有哪些区别？

问、Boosting与Bagging比较有哪些区别？答： 1、样本选择上：✓ Boosting：每一轮的训练集不变，只是训练集中每个样例在分类器中的权重发生变化，而权值是根据上一轮的分类结果进行调整✓ Bagging：训练集是在原始集中有放回选取的，从原始集中选出的各轮训练集之间是独立的2、样例权重：✓ Boosting：根据错误率不断调整样例的权值，错误率越大则权重越大,因此Boos

0.0000

0

1

0

关注作者

收藏

dreamhappy2012

为什么要进行决策树的存储？

问、为什么要进行决策树的存储？答：构造决策树是很耗时的任务，即使处理很小的数据集，如前面的样本数据，也要花费几秒的时间，如果数据集很大，将会耗费很多计算时间。然而用创建好的决策树解决分类问题，则可以很快完成。因此，为了节省计算时间，最好能够在每次执行分类时调用已经构造好的决策树。为了解决这个问题，需要使用Python模块pickle序列化对象。序列化对象可以在磁盘上保存对象，并在需要的时候读取

6.0399

1

4

0

关注作者

收藏

dreamhappy2012

什么是决策树的后剪枝？

问、什么是决策树的后剪枝？答：后剪枝：后剪枝是一种全局的优化方法，在决策树构建好之后，然后才开始进行剪枝。后剪枝的过程就是删除一些子树，这个叶子节点的标识类别通过大多数原则来确定，即属于这个叶子节点下大多数样本所属的类别就是该叶子节点的标识。选择减掉哪些子树时，可以计算没有减掉子树之前的误差和减掉子树之后的误差，如果相差不大，可以将子树减掉。一般使用后剪枝得到的结果比较好

0.0000

0

3

0

关注作者

收藏

dreamhappy2012

什么是预剪枝？

问、什么是预剪枝？答：预剪枝：就是在构建决策树的时候提前停止。比如指定树的深度最大为3，那么训练出来决策树的高度就是3,预剪枝主要是建立某些规则限制决策树的生长，降低了过拟合的风险，降低了建树的时间，但是有可能带来欠拟合问题

0.0000

0

2

0

关注作者

收藏

dreamhappy2012

递归创建决策树时，递归有两个终止条件是什么？

问、递归创建决策树时，递归有两个终止条件是什么？答：递归创建决策树时，递归有两个终止条件：第一个停止条件是所有的类标签完全相同，则直接返回该类标签；第二个停止条件是使用完了所有特征，仍然不能将数据划分仅包含唯一类别的分组，即决策树构建失败，特征不够用。此时说明数据维度不够，由于第二个停止条件无法简单地返回唯一的类标签，这里挑选出现数量最多的类别作为返回值。

6.0399

1

3

0

关注作者

收藏

dreamhappy2012

ID3算法的流程是什么？

问、ID3算法的流程是什么？答：ID3算法的核心是在决策树各个结点上对应信息增益准则选择特征，递归地构建决策树✓ 具体流程：从根结点开始，对结点计算所有可能的特征的信息增益，选择信息增益最大的特征作为结点的特征，由该特征的不同取值建立子节点；再对子结点递归地调用以上方法，构建决策树；直到所有特征的信息增益均很小或没有特征可以选择为止。最后得到一个决策树。 ID3相当于用最大似然法进行概率模型

0.0000

0

2

0

关注作者

收藏

dreamhappy2012

梯度下降的算法调优有哪几点?

问、梯度下降的算法调优有哪几点?答：算法的步长选择（刚开始步长选择小点，选择太大，会怎么样）算法参数的初始值选择（希望是凸函数，实际不一定是凸函数，容易陷入局部最优，可以随机多选择几个初始值，最后落在同一点是全局最优，落在不同的点，选取代价函数最小的点）归一化（对X归一化，y不需要归一化，可以加快迭代的速度，θ1和θ2比较接近，在同一个量级上）

0.0000

0

2

0

关注作者

收藏

dreamhappy2012

梯度方向的计算过程？

问、梯度方向的计算过程？答：阿法尔是学习率，在最优化问题中叫步长，在神经网络中叫学习速率。 ✓ 参数的迭代：随着迭代次数的增加，总误差的变化情况：随着迭代次数的增加，误差越来越小，但是不会等于零

8.7591

1

2

0

关注作者

收藏

dreamhappy2012

什么是梯度？

问、什么是梯度？答：梯度：梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。在机器学习算法中，在最小化损失函数时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函数，和模型参数值。反过来，如果我们需要求解损失函数的最大值，这时就需要用梯度上升法来迭代了。

0.0000

0

1

0

关注作者

收藏

dreamhappy2012

什么是一元线性回归？

问、什么是一元线性回归？答：回归分析(regression analysis)用来建立方程模拟两个或者多个变量之间如何关联• 被预测的变量叫做：因变量(dependent variable),输出(output)• 被用来进行预测的变量叫做：自变量(independent variable), 输入(input)• 一元线性回归包含一个自变量和一个因变量• 以上两个变量的关系用一条直

8.7591

1

3

0

关注作者

收藏

dreamhappy2012

什么是回归？

问、什么是回归？答：✓ 回归：统计学分析数据的方法，目的在于了解两个或多个变量间是否相关、研究其相关方向与强度，并建立数学模型以便观察特定变量来预测研究者感兴趣的变量相关：正相关，负相关，不相关✓ 回归分析可以帮助人们了解在自变量变化时因变量的变化量。一般来说，通过回归分析我们可以由给出的自变量估计因变量的条件期望

0.0000

0

0

0

关注作者

收藏

dreamhappy2012

异常值常用处理有哪些方法？

问、异常值常用处理有哪些方法？答：异常值的处理方法常用有四种：注：如何判定和处理异常值，需要结合实际。

0.0000

0

0

0

关注作者

收藏

dreamhappy2012

怎么样进行箱型图分析判别异常值？

问、怎么样进行箱型图分析判别异常值？答：箱型图提供了一个识别异常值的标准，即大于或小于箱型图设定的上下界的数值即为异常值，箱型图如图所示：首先我们定义下上四分位和下四分位。上四分位我们设为 U，表示的是所有样本中只有1/4的数值大于U。同理，下四分位我们设为 L，表示的是所有样本中只有1/4的数值小于L。那么，上下界又是什么呢？我们设上四分位与下四分位的插值为IQR，即：

0.0000

0

1

0

关注作者

收藏

dreamhappy2012

怎么样进行3σ原则判别异常值？

问、怎么样进行3σ原则判别异常值？答：当数据服从正态分布：根据正态分布的定义可知，距离平均值3σ之外的概率为 P(|x-μ|>3σ)

0.0000

0

5

0

关注作者

收藏

dreamhappy2012

怎么样进行简单统计分析判别异常值？

问、怎么样进行简单统计分析判别异常值？答：对属性值进行一个描述性的统计，从而查看哪些值是不合理的。比如对年龄这个属性进行规约：年龄的区间在[0:200]，如果样本中的年龄值不再该区间范围内，则表示该样本的年龄属性属于异常值。也可用散点图，简单直观：一眼就可以看出上面的值为异常值，也就是离群点。

0.0000

0

1

0

关注作者

收藏

dreamhappy2012

异常值判别方法有哪些？

问、异常值判别方法有哪些？答：简单统计分析3σ原则箱型图分析

0.0000

0

2

0

关注作者

收藏

dreamhappy2012

什么是异常值？

问、什么是异常值？答：异常值（outlier）指样本中的个别值，其数值明显偏离它（或他们）所属样本的其余观测值,也称异常数据，离群值。比如年龄为-1，笔记本电脑重量为1吨等，都属于异常值的范围。从集合角度来看，异常值即离群点，如下图所示：

0.0000

0

2

0

关注作者

收藏

dreamhappy2012

什么是异常值？

问、什么是异常值？答：异常值（outlier）指样本中的个别值，其数值明显偏离它（或他们）所属样本的其余观测值,也称异常数据，离群值。比如年龄为-1，笔记本电脑重量为1吨等，都属于异常值的范围。从集合角度来看，异常值即离群点，如下图所示：

0.0000

0

3

0

关注作者

收藏

dreamhappy2012

缺失值处理方法有哪些缺点？

问、缺失值处理方法有哪些缺点？答：补齐处理只是将未知值以我们的主观估计值来填充，不一定完全符合客观事实，在对不完备信息进行补齐处理的同时，我们或多或少地改变了原始的信息系统。对空值不正确的填充往往将新的噪声引入数据中，使挖掘任务产生错误的结果。因此，在许多情况下，我们还是希望在保持原始信息不发生变化的前提下对信息系统进行处理。现在好多大数据的处理方法都可以允许包含缺失值，方法包括贝叶斯网络

0.0000

0

3

0

关注作者

收藏

dreamhappy2012

拟牛顿法的本质思想是什么？

问、拟牛顿法的本质思想是什么？答：拟牛顿法的本质思想是改善牛顿法每次需要求解复杂的Hessian矩阵的逆矩阵的缺陷，它使用正定矩阵来近似Hessian矩阵的逆，从而简化了运算的复杂度。拟牛顿法和最速下降法一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的

0.0000

0

1

0

关注作者

收藏

<1…567…17>

CDA考试动态

CDA报考指南