机器学习算法与Python实践之（三）支持向量机（SVM）进阶

2017-03-26

机器学习算法与Python实践之（三）支持向量机（SVM）进阶 五、核函数 如果我们的正常的样本分布如下图左边所示，之所以说是正常的指的是，不是上面说的那样由于某些顽固的离群点导致的线性不可分。它是真的 ...

机器学习算法与Python实践之（二）支持向量机（SVM）初级

2017-03-26

机器学习算法与Python实践之（二）支持向量机（SVM）初级 一、引入 支持向量机（SupportVector Machines），这个名字可是响当当的，在机器学习或者模式识别领域可是无人不知，无人不晓啊。八九十年代的时候 ...

机器学习算法与Python实践之（一）k近邻（KNN）

2017-03-26

机器学习算法与Python实践之（一）k近邻（KNN） 一、kNN算法分析 K最近邻（k-Nearest Neighbor，KNN）分类算法可以说是最简单的机器学习算法了。它采用测量不同特征值之间的距离方法进行分类。它的思想很简 ...

简单易学的机器学习算法—Mean Shift聚类算法

2017-03-25

简单易学的机器学习算法—Mean Shift聚类算法 一、Mean Shift算法概述 Mean Shift算法，又称为均值漂移算法，Mean Shift的概念最早是由Fukunage在1975年提出的，在后来由Yizong Cheng对其进行扩充，主要提出 ...

简单易学的机器学习算法—主成分分析(PCA)

2017-03-24

简单易学的机器学习算法—主成分分析(PCA) 一、数据降维     对于现在维数比较多的数据，我们首先需要做的就是对其进行降维操作。降维，简单来说就是说在尽量保证数据本质的前提下将数据中的维 ...

简单易学的机器学习算法—岭回归(Ridge Regression)

2017-03-24

简单易学的机器学习算法—岭回归(Ridge Regression) 一、一般线性回归遇到的问题     在处理复杂的数据的回归问题时，普通的线性回归会遇到一些问题，主要表现在： 预测精度：这里要处理好这样 ...

简单易学的机器学习算法—SVD奇异值分解

2017-03-24

简单易学的机器学习算法—SVD奇异值分解 一、SVD奇异值分解的定义     假设M是一个的矩阵，如果存在一个分解： 其中的酉矩阵，的半正定对角矩阵，的共轭转置矩阵，且为的酉矩阵。这样的分解称 ...

简单易学的机器学习算法—K-Means算法

2017-03-23

简单易学的机器学习算法—K-Means算法 一、聚类算法的简介     聚类算法是一种典型的无监督学习算法，主要用于将相似的样本自动归到一个类别中。聚类算法与分类算法最大的区别是：聚类算法是无 ...

简单易学的机器学习算法—Logistic回归

2017-03-23

简单易学的机器学习算法—Logistic回归 一、Logistic回归的概述     Logistic回归是一种简单的分类算法，提到“回归”，很多人可能觉得与分类没什么关系，Logistic回归通过对数据分类边界的拟合 ...

简单易学的机器学习算法—朴素贝叶斯

2017-03-23

简单易学的机器学习算法—朴素贝叶斯 一、贝叶斯定理   1、条件概率 条件概率是指在事件B发生的情况下，事件A发生的概率，用表示。    2、全概率公式 含义是： ...

简单易学的机器学习算法—决策树之ID3算法

2017-03-22

简单易学的机器学习算法—决策树之ID3算法 一、决策树分类算法概述     决策树算法是从数据的属性（或者特征）出发，以属性作为基础，划分不同的类。例如对于如下数据集 （数据集） 其中，第一 ...

简单易学的机器学习算法—神经网络之BP神经网络

2017-03-22

简单易学的机器学习算法—神经网络之BP神经网络 一、BP神经网络的概念     BP神经网络是一种多层的前馈神经网络，其主要的特点是：信号是前向传播的，而误差是反向传播的。具体来说，对于如下的 ...

简单易学的机器学习算法—分类回归树CART

2017-03-22

简单易学的机器学习算法—分类回归树CART 分类回归树（Classification and Regression Tree，CART）是一种典型的决策树算法，CART算法不仅可以应用于分类问题，而且可以用于回归问题。 一、树回归的概念   ...

简单易学的机器学习算法—Rosenblatt感知机的对偶解法

2017-03-21

简单易学的机器学习算法—Rosenblatt感知机的对偶解法 一、Rosenblatt感知机回顾     在博文“简单易学的机器学习算法——Rosenblatt感知机”中介绍了Rosenblatt感知机的基本概念。Rosenblatt感 ...

简单易学的机器学习算法—基于密度的聚类算法DBSCAN

2017-03-21

简单易学的机器学习算法—基于密度的聚类算法DBSCAN 一、基于密度的聚类算法的概述     我想了解下基于密度的聚类算法，熟悉下基于密度的聚类算法与基于距离的聚类算法，如K-Means算法之间的 ...

论文中的机器学习算法——基于密度峰值的聚类算法

2017-03-21

论文中的机器学习算法——基于密度峰值的聚类算法 下面还是主要来谈谈论文的主要思想。 算法的主要思想思想     在聚类算法中主要有这样几种： 划分的方法，如K-Means ...

简单易学的机器学习算法—线性可分支持向量机

2017-03-21

简单易学的机器学习算法—线性可分支持向量机 一、线性可分支持向量机的概念     线性可分支持向量机是用于求解线性可分问题的分类问题。对于给定的线性可分训练数据集，通过间隔最大化构造相应 ...

简单易学的机器学习算法—支持向量机

2017-03-20

简单易学的机器学习算法—支持向量机 支持向量机(Support Vector Machines, SVM)被公认为比较优秀的分类模型，有很多人对SVM的基本原理做了阐述，我在学习的过程中也借鉴了他们的研究成果，在我介绍基本 ...

机器学习-回归模型-欠拟合和过拟合

2017-03-20

机器学习-回归模型-欠拟合和过拟合 1. 什么是欠拟合和过拟合 先看三张图片，这三张图片是线性回归模型 拟合的函数和训练集的关系 第一张图片拟合的函数和训练集误差较大，我们称这种情况为 欠拟合 ...

模式识别、机器学习、数据挖掘当中的各种距离总结

2017-03-20

模式识别、机器学习、数据挖掘当中的各种距离总结 在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距 ...