机器学习-数据科学专业问答社区-CDA答疑社区

热线电话：13121318867

登录

shauna570392

L1正则项和L2正则项有什么区别

1.L1是模型各个参数的绝对值之和。 L2是模型各个参数的平方和的开方值。2.L1会趋向于产生少量的特征，而其他的特征都是0. 因为最优的参数值很大概率出现在坐标轴上，这样就会导致某一维的权重为0 ，产生稀疏权重矩阵 L2会选择更多的特征，这些特征都会接近于0。最优的参数值很小概率出现在坐标轴上，因此每一维的参数都不会是0。当最小化||w||时，就会使每一项趋近于0

0.0000

0

1

0

关注作者

收藏

shauna570392

无监督算法如何评估

无监督学习算法不做出预测，也不存在 y 值，因此无法直接根据模型预测的准确率进行评估。以聚类算法为例，我们虽然使用“肘部法则”来做目测，选出最合适的均值，但还是需要一个统计量来衡量。Ci是第i个簇p是Ci中的样本点mi是Ci的质心（Ci中所有样本的均值）SSE是所有样本的聚类误差，代表了聚类效果的好坏。轮廓系数(silhouette coefficient) 是一个表示聚类分离的变量，计

0.0000

0

1

0

关注作者

收藏

shauna570392

kmeans需要划分训练集测试集吗

一般来说是不需要的无监督学习一般很难去评估模型效果。无监督学习算法一般用于不包含任何标签信息的数据，所以我们不知道正确的输出应该是什么。因此很难判断一个模型是否“表现很好”。所以也就不存在划分训练集和测试集了。

19.0452

1

0

0

关注作者

收藏

ermutuxia

报错 name "svm" is not defined

python在做支持向量机的时候报错name “svm” is not defined,SVC不能顺利调用。问题：老师，我导了包，但我看里面有个“SVC”,是不是写错了？回答：是的，上面的错误就是再调用SVC类的时候，调用的不正确，svm.SVC错了，应该写SVC。具体解释：from sklearn.svm import SVC 这个语句的意思是从模块sklearn

44.5991

3

3

0

关注作者

收藏

shauna570392

为什么gx小于等于0

对于x的函数f(x)，求解函数最小值，同时满足条件g(x)

0.0000

0

1

0

关注作者

收藏

shauna570392

轮廓系数不是越大越好吗

轮廓系数是一个-1到1的值，取值越大越好，一般是通过对k值进行遍历，认为轮廓系数最大的那个k值是最好的聚类个数，也就是说看的是相对大小而不是看轮廓系数大于多少才认为是很好地聚类

0.0000

0

0

0

关注作者

收藏

shauna570392

pca本来x1，x2是垂直的，为什么要转化成新的垂直

要做矩阵变换，要降低整个数据集的维度，我们必须把点映射成一条线，映射在新的x1上保留的信息最大，这个是第一主成分，第二主成分必须无第一主成分相交。所以有新的x1，x2，并且是垂直的。

0.0000

0

1

0

关注作者

收藏

shauna570392

余弦距离与欧式距离求相似度的差别？

1、欧氏距离能够体现个体数值特征的绝对差异，所以更多的用于需要从维度的数值大小中体现差异的分析，如使用用户行为指标分析用户价值的相似度或差异。余弦距离更多的是从方向上区分差异，而对绝对的数值不敏感，更多的用于使用用户对内容评分来区分兴趣的相似度和差异，同时修正了用户间可能存在的度量标准不统一的问题（因为余弦距离对绝对数值不敏感）。2、总体来说，欧氏距离体现数值上的绝对差异，而余弦距离体现方向上

0.0000

0

2

0

关注作者

收藏

shauna570392

数据清理中，处理缺失值的方法是？

1. 估算(estimation)。最简单的办法就是用某个变量的样本均值、中位数或众数代替无效值和缺失值。这种办法简单，但没有充分考虑数据中已有的信息，误差可能较大。另一种办法就是根据调查对象对其他问题的答案，通过变量之间的相关分析或逻辑推论进行估计。例如，某一产品的拥有情况可能与家庭收入有关，可以根据调查对象的家庭收入推算拥有这一产品的可能性。2. 整例删除(casewise deletion

0.0000

0

5

0

关注作者

收藏

shauna570392

SMOTE相关问题

一、问题描述SMOTE是不是通过增加少数类样本相近的样本达到样本均衡问题，增加到什么程度？二、问题解答是的。类别不平衡问题，顾名思义，即数据集中存在某一类样本，其数量远多于或远少于其他类样本，从而导致一些机器学习模型失效的问题。例如逻辑回归即不适合处理类别不平衡问题，例如逻辑回归在欺诈检测问题中，因为绝大多数样本都为正常样本，欺诈样本很少，逻辑回归算法会倾向于把大多数样本判定为正常样本，这

0.0000

0

1

0

关注作者

收藏

shauna570392

KNN 和密度聚类区别是？

KNN是一个基本而简单的分类算法，作为监督学习，那么KNN模型需要的是有标签的训练数据，对于新样本的类别由与新样本距离最近的k个训练样本点按照分类决策规则决定。kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法

0.0000

0

2

0

关注作者

收藏

shauna570392

中心极限定理

中心极限定理定义：（1）任何一个样本的平均值将会约等于其所在总体的平均值。（2）不管总体是什么分布，任意一个总体的样本平均值都会围绕在总体的平均值周围，并且呈正态分布。中心极限定理作用：（1）在没有办法得到总体全部数据的情况下，我们可以用样本来估计总体。（2）根据总体的平均值和标准差，判断某个样本是否属于总体。

0.0000

0

0

0

关注作者

收藏

shauna570392

PCA为什么要中心化？PCA的主成分是什么？

因为要算协方差。单纯的线性变换只是产生了倍数缩放，无法消除量纲对协方差的影响，而协方差是为了让投影后方差最大。在统计学中，主成分分析（PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献

0.0000

0

3

0

关注作者

收藏

shauna570392

怎么做恶意刷单检测?

分类问题用机器学习方法建模解决，我想到的特征有：（1）商家特征：商家历史销量、信用、产品类别、发货快递公司等（2）用户行为特征：用户信用、下单量、转化率、下单路径、浏览店铺行为、支付账号（3）环境特征（主要是避免机器刷单）：地区、ip、手机型号等（4）异常检测：ip地址经常变动、经常清空cookie信息、账号近期交易成功率上升等（5）评论文本检测：刷单的评论文本可能套路较为一致，计算与已

0.0000

0

3

0

关注作者

收藏

shauna570392

数据预处理过程有哪些？

缺失值处理：删、插异常值处理特征转换：时间特征sin化表示标准化：最大最小标准化、z标准化等归一化：对于文本或评分特征，不同样本之间可能有整体上的差异，如a文本共20个词，b文本30000个词，b文本中各个维度上的频次都很可能远远高于a文本离散化：onehot、分箱等

0.0000

0

2

0

关注作者

收藏

shauna570392

有分类型变量不能用L1，L2吗？

确实是因为有分类型所以不能用，可以对分类型变量进行编码再使用正则化，不过不好处理。

0.0000

0

2

0

关注作者

收藏

shauna570392

L1 L2是不是只适用于线性回归里面？

一、问题描述L1 L2是不是只适用于线性回归里面我看您写的损失函数也是线性回归的二、问题解答不仅仅用于线性回归，逻辑回归，xgboost等其他模型均可以使用。

0.0000

0

5

0

关注作者

收藏

shauna570392

正则化主要是用来防止过拟合的吧？

是的，正则化是通过降低模型的复杂性，达到避免过拟合的问题。

0.0000

0

2

0

关注作者

收藏

shauna570392

L1 L2正则化可以处理共线性问题么

L1范数当p=1时，是L1范数，其表示某个向量中所有元素绝对值的和。L2范数当p=2时，是L2范数，表示某个向量中所有元素平方和再开根，也就是欧几里得距离公式。正则化通过降低模型的复杂性，达到避免过拟合的问题，不能解决共线性问题。

0.0000

0

4

0

关注作者

收藏

shauna570392

共线性的处理问题

一、问题描述如果这个案例中出现了共线性，除了删除变量，还有什么方法可以处理。二、问题解答出了删除变量以外，如果不追求模型的解释性，可以用pca进行降维处理。

0.0000

0

4

0

关注作者

收藏

<1…353637…69>

CDA考试动态

CDA报考指南