决策树剪枝，常用这2种方法

2020-07-09

前面我们了解了决策树的概念，现在来了解一下决策树剪枝。可能会有人问：为什么要剪枝?答案是：如果一棵决策树完全生长，那么这棵决策树所对应的每一个叶节点中只会包含一个样本，就很有可能面临过拟合问题，因此 ...

XGBoost算法的这3类参数，你知道吗？

2020-07-09

XGBoost是诞生于2014年2月的一种专攻梯度提升算法的机器学习函数库，它有很好的学习效果，速度也非常快，与梯度提升算法在另一个常用机器学习库scikit-learn中的实现相比，XGBoost的性能可以提升10倍以上。还有，X ...

随机森林（Random Forest）算法的优点和缺点都有哪些？

2022-12-23

随机森林(Random Forests)现在机器学习中比较火的一个算法，是一种基于Bagging的集成学习方法，能够很好地处理分类和回归的问题。下面小编整理了随机森林的优点和缺点，希望对大家有所帮助。 随机森林有许多优 ...

3种常见集成算法模型的详细理解

2020-07-08

集成算法（Emseble Learning）是构建多个学习器，然后通过一定策略将这些学习器组合起来，让它们来完成学习任务的，通常可以获得比单一学习显著优越的学习器。 常见的集成算法模型有：Bagging、Boosting、Stack ...

对于KNN算法概念以及原理的简单理解

2020-07-09

KNN的全称是K-Nearest Neighbors，具体意思为K个最近的邻居。KNN算法可以说是机器学习算法中最简单、最基础的算法了。既能用于分类，也能用于回归。是通过测量不同特征值之间的距离来进行分类。 KNN的基本思路 ...

如何理解欠拟合？常用的处理方法有哪些？

2020-07-08

一、欠拟合概念及理解 机器学习中欠拟合是一个常见的问题，简单来说就是模型在训练和预测时表现都欠佳的情况。一个欠拟合的机器学习模型不是一个良好的模型并且在训练数据上表现不好这是显而易见的。 图 ...

最大后验估计MAP是什么？它是怎么推导出来的？

2020-07-08

最大后验估计(maximum a posteriori probability estimate), 简称为MAP。在贝叶斯统计学中，最大后验估计是通过利用经验数据获得对未观测量的点态估计。 与极大似然估计类似，不同的是，在似然函数后面多乘了一 ...

特征工程是什么？常用的方法有哪些？

2020-07-07

“数据决定了机器学习的上限，而算法只是尽可能逼近这个上限”，这里的数据指的就是经过特征工程得到的数据。特征工程指的是把原始数据转变为模型的训练数据的过程，它的目的就是获取更好的训练数据特征，使得机器 ...

SVM和LR有哪些相同点和不同点

2020-07-03

SVM和LR是机器学习中常用的算法，今天就让我们来看一下这两者有哪些相同点和不同点吧。 SVM和LR的相同点： 1.LR和SVM都是有监督的学习 2.LR和SVM都可以处理分类问题，且一般都用于处理线性二分类问题(在 ...

交叉验证：评估模型的泛化能力表现

2020-06-16

注明：本文章所有代码均来自scikit-learn官方网站 在实际情况中，如果一个模型要上线，数据分析员需要反复调试模型，以防止模型仅在已知数据集的表现较好，在未知数据集上的表现较差。即要确保模型的泛化能力 ...

如何正确选择线性回归、逻辑回归、决策等机器学习算法

2020-05-27

机器学习既是艺术又是科学。但当您查看机器学习算法时，没有一种解决方案或一种适合所有情况的算法。有几个因素会影响您选择哪种机器学习。 有些问题非常具体，需要采取独特的方法。例如，如果您使用推荐系统， ...

如何用python预测“命定的那个TA”什么时候住酒店？

2020-05-25

作者：野水晶体  来源：livandata 看到这个题目，大家是否会有一些小小的想法？别闹了！笔者是一个正经人，讨论的也是一个有关python的技术问题，哈哈~ 每个人的行为都是有迹可循的，这些 ...

Python可视化工具推荐：图片交互性行极佳的Plotly

2020-05-25

1、 简单介绍 一般大家在学习python机器学习的时候，用的最多Python可视化的包就是matplot和seaborn, 这2个可视化的优点在于门槛低，代码容易理解，并且容易上手。唯一的可能的缺点就是画出来的图不能交互 ...

神经网络的泛化能力差吗？

2020-05-21

泛化能力，英文全称generalization ability，指机器学习算法对新鲜样本的适应能力，一种预测新的input类别的能力。 通过学习找到隐含在数据背后的规律，并对具有同一规律的学习集以外的数据，这种经过训练的网络可 ...

下采样和池化的区别是什么？

2020-05-19

有部分同学，在学习初期，会认为下采样和池化是指同样的事情，只是叫法不同而已，其实这是一种错误的认知。 下采样（subsampled），或称为降采样（downsampled），指缩小图像。其主要目是使得图像符合显示区域的 ...

Python可视化工具：Plotly

2020-05-09

一般大家在学习python机器学习的时候，用的最多的可视化的包就是matplot和seaborn, 这2个可视化的优点在于门槛低，代码容易理解，并且容易上手。唯一的可能的缺点就是画出来的图不能交互，简单来说就是matplot和se ...

关于模型优化的几个思考

2020-04-16

目前模型的问法优化看似进入了一个瓶颈期，在这个阶段模型的同学一直在调数据跑模型，但见效甚微，大家难免会有些感到手足无措，或者沮丧，这种情况在咱们做模型的过程中肯定会经常遇到的。那么如果碰到 ...

机器学习精准预测——揭露海平面上升带来的危害有多大

2020-03-04

作者 | Michael Barnard  编译 | CDA数据分析师 海平面上升是一个受到广泛研究的现象，这是全球变暖造成的。首先，额外的热量使陆地冰融化。然后，水变暖，因此膨胀了一点。这种结合意味 ...

33 个神经网络「炼丹」技巧

2019-12-26

作者 | Andrej Karpathy 编译 | AI有道 特斯拉人工智能部门主管 Andrej Karpathy 发布新博客，介绍神经网络训练的技巧。 Andrej Karpathy 是深度学习计算机视觉领域、与领域的研究员 ...

7 大类卷积神经网络（CNN）创新综述

2019-12-26

作者 | Asifullah Khan & Anabia Sohail 编译 | 机器之心 深度卷积神经网络（CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。深度 CNN 架构在挑战性基准任务比赛 ...