机器学习-数据科学专业问答社区-CDA答疑社区

热线电话：13121318867

登录

赵娜0418

无监督学习和有监督学习有什么异同？

监督学习（supervised learning）：通过已有的训练样本（即已知数据以及其对应的输出）来训练，从而得到一个最优模型，再利用这个模型将所有新的数据样本映射为相应的输出结果，对输出结果进行简单的判断从而实现分类的目的，那么这个最优模型也就具有了对未知数据进行分类的能力。在社会中，我们在很小的时候就被大人教授这是鸟啊，那是猪啊，这个是西瓜、南瓜，这个可以吃、那个不能吃啊之类的，我们眼里见到

1.6790

6

2

0

关注作者

收藏

赵娜0418

Python机器学习决策时算法中熵是什么？

决策树是用于分类的统计模型。熵的概念熵是来衡量随机变量的不确定性的。Shannon entropy来定量化了这种不确定性。有以下公式H(x)=∑iP(xi)I(xi)=−∑iP(xi)logbP(xi)H(x)=∑iP(xi)I(xi)=−∑iP(xi)logbP(xi)接下来通过例子来说明。比如投硬币，正面和反面的概率都是1/2，在这种情况下，一个比特就可以来传递每一次的结果。投

1.6383

6

2

0

关注作者

收藏

赵娜0418

归一化和标准化有何不同？

答：简单来说，标准化是依照特征矩阵的列处理数据，其通过求z-score的方法，将样本的特征值转换到同一量纲下。归一化是依照特征矩阵的行处理数据，其目的在于样本向量在点乘运算或其他核函数计算相似性时，拥有统一的标准，也就是说都转化为“单位向量”。归一化：这种方法有个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。另外，最大值与最小值非常容易受异常点影响，所以这种方法鲁棒

1.6383

6

5

0

关注作者

收藏

陈革007

Python 统计学习:决策树

一,决策树-解决分类问题的一般方法1、模型构建（归纳）通过对训练集合的归纳，建立分类模型。 2、预测应用（推论）根据建立的分类模型，对测试集合进行测试二, 决策树的本质•决策树是一种典型的分类方法•首先对数据进行处理，利用归纳算法生成可读的规则和决策树，•然后使用决策对新数据进行分析。•本质上决策树是通过一系列规则对数据进行分类的过程。三,决策树的优点•1、推理过程容

24.8380

6

2

0

关注作者

收藏

赵娜0418

什么是赫希曼指数

赫芬达尔—赫希曼指数(Herfindahl-HirschmanIndex，简称HHI）赫芬达尔——赫希曼指数是反映市场集中度的综合指标，简称HHI指数，它是用某特定市场上所有企业的市场份额的平方和来表示，其公式为： · X——市场的总规模· Xi——i企业的规模· Si = Xi / X——第i个企业的市场占有率· n——该产业内的企业数著名经济学家赫尔希曼认为,非均衡发展就是要集

1.5858

6

0

0

关注作者

收藏

liting李

不同机器学习指标怎么用？

不同的机器学习任务有着不同的性能评价指标。例如，分类问题，可以使用准确率 (Accuracy)、对数损失函数 (log-loss)、AUC等评价方法。实数序列数据预测问题，可以使用平方根误差 (root mean square error， RMSE) 等指标；又如在搜索引擎中进行与查询相关的项目排序中，可以使用精确率-召回率 (precision-recall)。

60.7940

3

2

0

关注作者

收藏

liting李

逻辑回归一般应用到哪些场景中，有哪些优缺点？

逻辑回归一般应用在：广告点击率预测、电商购物搭配推荐、股价预测、产品销量预测。优点：线性回归的数据要求：正态分布，消除多重共线性，现实数据无法满足；逻辑回归不需要对数据进行处理对线性关系的拟合效果好逻辑回归计算速度快返回的分类结果不是固定的0和1，而是以小数形式呈现的类概率数字抗噪音能力强缺点：当特征空间很大时，逻辑回归的性能不是很好

24.6406

1

2

0

关注作者

收藏

liting李

正则化是用来做什么的？

正则化：是用来防止模型过拟合的过程，常用的有L1正则化和L2正则化两种选项，分别通过在损失函数后加上参数向量的L1范式和L2范式的倍数来实现。这个增加的范式，被称为“正则项”，也被称为"惩罚项"。

0.0000

0

2

0

关注作者

收藏

liting李

什么是损失函数？

损失函数：是一个评估指标，来衡量参数为的模型拟合训练集时产生的信息损失的大小，并以此衡量参数的优劣。损失函数小，模型在训练集上表现优异，拟合充分，参数优秀。损失函数大，模型在训练集上表现差劲，拟合不足，参数糟糕。我们追求，能够让损失函数最小化的参数组合。注意：没有”求解参数“需求的模型没有损失函数，比如KNN，决策树。 θ表示求解出来的一组参数，m是样本的个数， yi

24.6406

1

5

0

关注作者

收藏

赵娜0418

Python机器学习中ID3、C4.5和CART的区别

1、ID3：解决分类问题，以信息增益最大选择特征，要求特征离散2、C4.5：解决分类问题，以信息增益率最大选择特征，特征可离散可连续3、CART：二叉树1）分类问题：以基尼系数最小选择特征，特征可离散可连续2）回归问题：以方差最小选择特征，特征可离散可连续

61.6208

5

5

0

关注作者

收藏

赵娜0418

Python机器学习中梯度下降算法与损失函数之间有什么关系

损失函数（Loss function）是用来估量你模型的预测值 f(x)f(x) 与真实值 YY 的不一致程度，它是一个非负实值函数，通常用 L(Y,f(x))L(Y,f(x)) 来表示。损失函数越小，模型的鲁棒性就越好，常用的最小二乘法，大家可以参考该文章https://blog.csdn.net/u010976453/article/details/78488279，这里已经介绍了损失函数的定

16.7865

6

4

0

关注作者

收藏

赵娜0418

Python机器学习中梯度下降法是按什么样的流程进行的？

1）首先对θ赋值，这个值可以是随机的，也可以让θ是一个全零的向量。2）改变θ的值，使得J(θ)按梯度下降的方向进行减少。为了更清楚，给出下面的图：a 这是一个表示参数θ与误差函数J(θ)的关系图，红色的部分是表示J(θ)有着比较高的取值，我们需要的是，能够让J(θ)的值尽量的低。也就是深蓝色的部分。θ0，θ1表示θ向量的两个维度。在上面提到梯度下降法的第一步是给θ给一个初值，假设随机

1.8003

5

1

0

关注作者

收藏

赵娜0418

Python机器学习中回归与梯度下降

回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等，这个将在后面去讲。用一个很简单的例子来说明回归，这个例子来自很多的地方，也在很多的open source的软件中看到，比如说weka。大概就是，做一个房屋价值的评估系统

16.7830

6

2

0

关注作者

收藏

liting李

什么XGBoost要用泰勒展开？

XGBoost使用了一阶和二阶偏导, 二阶导数有利于梯度下降的更快更准. 使用泰勒展开取得二阶倒数形式, 可以在不选定损失函数具体形式的情况下用于算法优化分析.本质上也就把损失函数的选取和模型算法优化/参数选择分开了. 这种去耦合增加了XGBoost的适用性。

0.0000

0

0

0

关注作者

收藏

liting李

在k-means或kNN，我们是用欧氏距离来计算最近的邻居之间的距离。为什么不用曼哈顿距离？

曼哈顿距离只计算水平或垂直距离，有维度的限制。另一方面，欧氏距离可用于任何空间的距离计算问题。因为，数据点可以存在于任何空间，欧氏距离是更可行的选择。例如：想象一下国际象棋棋盘，象或车所做的移动是由曼哈顿距离计算的，因为它们是在各自的水平和垂直方向做的运动。

14.9862

1

1

0

关注作者

收藏

liting李

GBDT和XGBoost的区别是什么？

XGBoost类似于GBDT的优化版，不论是精度还是效率上都有了提升。与GBDT相比，具体的优点有： 1.损失函数是用泰勒展式二项逼近，而不是像GBDT里的就是一阶导数； 2.对树的结构进行了正则化约束，防止模型过度复杂，降低了过拟合的可能性； 3.节点分裂的方式不同，GBDT是用的基尼系数，XGBoost是经过优化推导后的。

0.0000

0

2

0

关注作者

收藏

liting李

什么是分类与回归？

这两个概念都是监督机器学习技术的一个重要方面。通过分类，输出被分类为用于进行预测的不同类别。而回归模型通常用于找出预测和变量之间的关系。分类和回归之间的关键区别在于，在前者中，输出变量是离散的，而在后者中是连续的。

14.9862

1

2

0

关注作者

收藏

hopeiagt

Batch梯度下降和随机梯度下降的区别

BATCH: 计算梯度的过程中，使用整体的数据集来进行梯度的计算，整体的数据是不变的，所以每一次迭代中，计算出来的梯度，方向就比较稳定，但是很容易因为初始值选的不好，很容易陷入局部最优点。BATCH因为是在做矩阵的运算，所以在数据量小的时候，运算书非常快，但是数据量大的时候，矩阵运算速度会变的很慢。 STOCASTIC：计算梯度的过程当中，使用的是随机的一个样本来进行梯度的计算的，所以迭代的

51.9626

3

2

0

关注作者

收藏

hopeiagt

简述支持向量（分类）模型算法

最初的支持向量机是由 Vladimir N. Vapnik和Alexey Ya. Chervonenkis在1963年发明的。支持向量机是有监督的机器学习，被广泛应用于处理分类问题或者回归问题，SVC是Support vector classification和SVR是Support vector regression。分类问题如处理离散标签的分类，连续问题如房价预测。支持向量机以分类而闻名，

0.0381

1

2

0

关注作者

收藏

hopeiagt

调节超参数都有哪些方法?

1. 手动调节: 手动参数调节更多的是基于建模者对以往经验的总结，通过修改模型的部分参数，了解模型分数对模型参数变化的敏感性。 2. 网格搜索: 又名穷尽的⽹格搜索（Exhaustive Grid Search）。网格搜索方法是通过设置可能的各超参数集合，将所有集合中可能的组合作为超参数，对模型进行一次训练。n个可能的超参数组合意味着n次模型训练。最后，网格搜索的返回值是n次模型训练中模型

15.4153

2

0

0

关注作者

收藏

<1…91011…69>

CDA考试动态

CDA报考指南