机器学习-数据科学专业问答社区-CDA答疑社区

热线电话：13121318867

登录

shauna570392

随机森林默认投票法还是平均法

主要看标签，需要看y值是分类型变量还是连续性变量。如果y连续，对于连续的y值做平均，得出平均的结果。如果y是分类变量，则使用投票法，选出概率最大的一种可能性。

0.0000

0

1

0

关注作者

收藏

shauna570392

遍历的i用在哪

DT_cv = []RF_cv = []for i in range(20): clf = DecisionTreeClassifier() rfc = RandomForestClassifier(n_estimators=20) DT_cv.append(cross_val_score(clf, X, Y, cv = 10).mean()) RF_cv.ap

0.0000

0

3

0

关注作者

收藏

田齐齐

怎样理解欠拟合和过拟合？

过拟合：指为了得到一致性假设而使假设变得过度严格。在模型参数拟合过程中，由于训练数据包含抽样误差，复杂的模型将抽样误差也考虑在内，将抽样误差也进行了很好的拟合。欠拟合反之。“欠拟合”常常在模型学习能力较弱，而数据复杂度较高的情况出现，此时模型由于学习能力不足，无法学习到数据集中的“一般规律”，因而导致泛化能力弱。与之相反，“过拟合”常常在模型学习能力过强的情况中出现，此时的模型学习能力太强，

0.0000

0

3

0

关注作者

收藏

shauna570392

交叉验证每次结果都不一样

一：简单的交叉验证的步骤如下：1、从全部的训练数据中随机选择样例作为训练集 train，剩余的作为测试集作为测试集 test。2、通过对测试集训练，得到假设函数或者模型。3、在测试集对每一个样本根据假设函数或者模型，得到训练集的类标，求出分类正确率。4，选择具有最大分类率的模型或者假设。因为每次的训练集和测试集是随机分配的，所以导致结果不同。

29.6471

1

3

0

关注作者

收藏

shauna570392

样本和分类器的权重问题

一、问题描述错误率越大则权重越大，分类误差小的分类器有更大的权重，这两个矛盾吗？二、问题解答第一个是针对样本来说的，如果样本的错误率越大，则有更大的权重。后一个是针对分类器来说的，如果一个分类器的误差小，则给他更大的权重，否则分类误差大，就给小的权重。

0.0000

0

2

0

关注作者

收藏

赵娜0418

KNN算法中K值如何选择？

如果k较小，就相当于用较小的邻域中的训练实例进行预测，“学习”的近似误差会减小，只有输入实例较近的（相似的）训练实例才会对预测结果起作用。但缺点是“学习”的估计误差会变大，预测结果会对近邻的实例点非常敏感。如果邻近的实例点恰好是噪声，预测会出错。k值的减小就意味着整体模型变得复杂，容易发生过拟合。如果k值太大，相当于用较大的邻域中的训练实例进行预测。其优点是可以减少学习的估计误差，但缺点是学

37.7698

2

3

0

关注作者

收藏

赵娜0418

什么是决策树？

决策树学习的算法通常是一个递归地选择最优特征，并根据该特征对训练数据进行分割，使得对各个子数据集有一个很好的分类的过程。这一过程对应着对特征空间的划分，也对应着决策树的构建。开始，构建根节点，将所有训练数据都放在根节点。选择一个最优特征，按照这一特征将训练数据集分割成子集，使得各个子集有一个在当前条件下最好的分类。如果这些子集已经能够被基本正确分类，那么构建叶结点，并将这些子集分到所对应的叶结点中

38.4769

3

2

0

关注作者

收藏

田齐齐

什么样的模型才是一个好模型？

在测试集表现与预测集相当，说明模型没有过度拟合：在训练集上表现完美，在测试集上一塌糊涂；原因：模型过于刚性：“极尽历史规律，考虑随机误差”；拟合精度不能作为衡量模型方法的标准；一个好的模型：只描述规律性的东西（抓住事务的主要特征），存在随机误差是好事，在预测时，就有了“容错空间“，预测误差可能减小！

37.5000

1

2

0

关注作者

收藏

赵娜0418

什么是决策树的剪枝？

剪枝：从已生成的树上裁掉一些子树或叶结点，并将其根节点或父结点作为新的叶结点，从而简化分类树模型。剪枝就是当阿尔法确定时，选择损失函数最小的模型，即损失函数最小的子树。当阿尔法确定时，子树越大，往往与训练数据的拟合越好，但是模型的复杂度就越高，相反，子树越小，模型复杂度就越低，但是往往与训练数据的拟合不好，损失函数正好表示了对两者的平衡

0.8933

2

3

0

关注作者

收藏

赵娜0418

决策树为什么要进行剪枝？

决策树生成算法递归地产生决策树，知道不能继续下去为止。这样产生的树往往对训练数据的分类很准确，但对未知的测试数据的分类却没有那么准确，即出现过拟合现象。过拟合的原因在于学习时过多地考虑如何提高对训练数据的正确分类，从而构建出过于复杂的决策树。解决这个问题的方法是考虑决策树的复杂度，对已生成的决策树进行简化。

0.8933

2

5

0

关注作者

收藏

赵娜0418

最近邻算法有没有学习过程

最近邻算法有没有学习过程？答：没有的。所以这个算法称为消极学习方法，而之前的那些算法称为积极学习方法。

0.7194

2

2

0

关注作者

收藏

赵娜0418

在计算（1-2）时假设出现某项是零了怎么办？

在计算（1-2）时假设出现某项是零了怎么办？答：有两种方法：（1）拉普拉斯校准或拉普拉斯估计法。假定训练数据库D很大，使得需要的每个技术加1造成的估计概率的变化可以忽略不计，但可以方便的避免概率值为零的情况。（如果对q个计数都加上1，则我们必须在用于计算概率的对应分母上加上q）。（2）条件概率的m估计。P(Xi | Yi) = (nc mp) / (n m)其中，n是类yi中的实例总数

0.7194

2

2

0

关注作者

收藏

赵娜0418

决策树分类问题

预测集中的每条记录的属性取值集合是否就和训练集的某一个记录的属性取值集合相等？答：不一定，一般来说是不可能的。但是建立的决策树一定包含该取值集合（但是可能范围会大些）。因为决策树建过程是只要当前的所有对象属于同一个标号就不再继续选择属性了，所以，实际上建立的决策树所包含的对象是比训练集中的对象要多得多的，这些多余的对象可能就包含当前的预测对象。这也是决策树能够用来进行分类的原因。

0.7194

2

4

0

关注作者

收藏

赵娜0418

决策树中出现过分你和应该怎么处理？

决策树中出现过分你和应该怎么处理？答： A)：先剪枝（提前终止规则）：当观察到的不纯性度量的增益（或估计的泛化误差的改进）低于某个确定的阈值时就停止扩展叶节点。B)：初始决策树按照最大规模生长，然后进行剪枝的步骤，按照自底向上的方式修剪完全增长的决策树。修剪有两种方法：（1）用新的叶节点替换子树，该叶节点的类标号由子树下记录中的多数类确定；（2）用子树中常见的分支替代子树。当模型不能再改进时终止

0.7194

2

2

0

关注作者

收藏

赵娜0418

泛化误差的估计有哪些？

泛化误差的估计有哪些？答：（1）乐观估计（决策树归纳算法简单的选择产生最低训练误差的模型作为最终的模型）（2）悲观误差估计（使用训练误差与模型复杂度罚项的和计算泛化误差）（3）最小描述长度原则（模型编码的开销加上误分类记录编码的开销）（4）估计统计上界（泛化误差可以用训练误差的统计修正来估计，因为泛化误差倾向于比训练误差大，所以统计修正通常是计算训练误差的上界）（4）使用确认集（如2/3的训练集

0.7194

2

0

0

关注作者

收藏

赵娜0418

造成过拟合的原因是什么？

造成过拟合的原因是什么？答：造成原因有：（1）噪声造成的过分拟合（因为它拟合了误标记的训练记录，导致了对检验集中记录的误分类）；（2）根据少量训练记录做出分类决策的模型也容易受过分拟合的影响。（由于训练数据缺乏具有代表性的样本，在没有多少训练记录的情况下，学习算法仍然继续细化模型就会产生这样的模型，当决策树的叶节点没有足够的代表性样本时，很可能做出错误的预测）（3）多重比较也可能会导致过分拟合（

0.8933

2

3

0

关注作者

收藏

赵娜0418

BBN的特点问题

朴素贝叶斯没有学习的过程，那么是否可以说朴素贝叶斯是消极学习法分类？答：（1）朴素贝叶斯只是贝叶斯分类的一种实现形式，而实现形式还有贝叶斯网络但是贝叶斯网络是有学习过程的。所以不能说贝叶斯分类时消极学习法。（2）其实朴素贝叶斯是消极学习方法

0.9769

2

0

0

关注作者

收藏

wo56565

python如何将决策树回归器拟合到数据集

# import the regressorfrom sklearn.tree import DecisionTreeRegressor# create a regressor objectregressor = DecisionTreeRegressor(random_state = 0)# fit the regressor with X and Y dataregressor.

45.3383

4

2

0

关注作者

收藏

赵娜0418

order()参数中"C"和"F"有什么区别？

order()参数中"C"和"F"有什么区别？答：order参数的C和F是numpy中数组元素存储区域的两种排列格式，也就是C语言格式和Fortran语言格式

1.3919

2

7

0

关注作者

收藏

赵娜0418

评分卡案例中测试集是否需要按照按训练集的分箱结果进行？

评分卡案例中测试集是否需要按照按训练集的分箱结果进行？答：测试集不需要做分箱，直接按照训练集的分箱结果来做，因为测试集合数据集有可能分箱的结果不一样，但是模型是根据训练集的分箱结果而来的，所以说数据预处理中训练集做的数据清洗操作要在测试集做相同的操作，直接用WOE的值来进行预测即可

1.3919

2

2

0

关注作者

收藏

<1…424344…69>

CDA考试动态

CDA报考指南