简单易学的机器学习算法—基于密度的聚类算法DBSCAN

2017-03-21

简单易学的机器学习算法—基于密度的聚类算法DBSCAN 一、基于密度的聚类算法的概述     我想了解下基于密度的聚类算法，熟悉下基于密度的聚类算法与基于距离的聚类算法，如K-Means算法之间的 ...

论文中的机器学习算法——基于密度峰值的聚类算法

2017-03-21

论文中的机器学习算法——基于密度峰值的聚类算法 下面还是主要来谈谈论文的主要思想。 算法的主要思想思想     在聚类算法中主要有这样几种： 划分的方法，如K-Means ...

简单易学的机器学习算法—线性可分支持向量机

2017-03-21

简单易学的机器学习算法—线性可分支持向量机 一、线性可分支持向量机的概念     线性可分支持向量机是用于求解线性可分问题的分类问题。对于给定的线性可分训练数据集，通过间隔最大化构造相应 ...

简单易学的机器学习算法—支持向量机

2017-03-20

简单易学的机器学习算法—支持向量机 支持向量机(Support Vector Machines, SVM)被公认为比较优秀的分类模型，有很多人对SVM的基本原理做了阐述，我在学习的过程中也借鉴了他们的研究成果，在我介绍基本 ...

机器学习-回归模型-欠拟合和过拟合

2017-03-20

机器学习-回归模型-欠拟合和过拟合 1. 什么是欠拟合和过拟合 先看三张图片，这三张图片是线性回归模型 拟合的函数和训练集的关系 第一张图片拟合的函数和训练集误差较大，我们称这种情况为 欠拟合 ...

模式识别、机器学习、数据挖掘当中的各种距离总结

2017-03-20

模式识别、机器学习、数据挖掘当中的各种距离总结 在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距 ...

从曲线拟合问题窥视机器学习中的相关概念

2017-03-20

从曲线拟合问题窥视机器学习中的相关概念 一直徘徊在机器学习的边缘未敢轻易造次并畏惧其基本原理思想，从每一本厚厚的参考资料中都可以看出机器学习是一门跨越概率论、决策论、信息论以及最优化的学科的综合学 ...

Python机器学习之Logistic回归

2017-03-18

Python机器学习之Logistic回归 大数据时代，数据犹如一座巨大的金矿，等待我们去发掘。而机器学习和数据挖掘的相关技术，无疑就是你挖矿探宝的必备利器！工欲善其事，必先利其器。很多初涉该领域的人，最先困惑 ...

牛顿法解机器学习中的Logistic回归

2017-03-18

牛顿法解机器学习中的Logistic回归 这仍然是近期系列文章中的一篇。在这一个系列中，我打算把机器学习中的Logistic回归从原理到应用详细串起来。最初我们介绍了在Python中利用Scikit-Learn来建立Logistic回归分 ...

机器学习中的隐马尔科夫模型（HMM）详解

2017-03-18

机器学习中的隐马尔科夫模型（HMM）详解 在之前介绍贝叶斯网络的博文中，我们已经讨论过概率图模型（PGM）的概念了。Russell等在文献【1】中指出：“在统计学中，图模型这个术语指包含贝叶斯网络在内的比较宽泛 ...

机器学习优化算法之爬山算法小结

2017-03-16

机器学习优化算法之爬山算法小结  机器学习的项目,不可避免的需要补充一些优化算法,对于优化算法,爬山算法还是比较重要的.鉴于此,花了些时间仔细阅读了些爬山算法的paper.基于这些,做一些总结.  目录 ...

机器学习中概率论知识复习

2017-03-16

机器学习中概率论知识复习 1 基本概念 概率论在机器学习中扮演着一个核心角色，因为机器学习算法的设计通常依赖于对数据的概率假设。 1.1 概率空间 说到概率，通常是指一个具有不确定性的event发生的 ...

机器学习实现与分析之五（高斯判别分析）

2017-03-15

机器学习实现与分析之五（高斯判别分析） 高斯判别分析（GDA）简介 首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: 这 ...

机器学习实现与分析之四（广义线性模型）

2017-03-15

机器学习实现与分析之四（广义线性模型） 指数分布族 首先需要提及下指数分布族，它是指一系列的分布，只要其概率密度函数可以写成下面这样的形式： 一般的很多分布（如高斯分布，泊松分布，二项 ...

斯坦福机器学习实现与分析之二（线性回归）

2017-03-15

斯坦福机器学习实现与分析之二（线性回归） 回归问题提出 首先需要明确回归问题的根本目的在于预测。对于某个问题，一般我们不可能测量出每一种情况（工作量太大），故多是测量一组数据，基于此数据去预 ...

机器学习实战之SVD

2017-03-14

机器学习实战之SVD 1. 奇异值分解 SVD(singular value decomposition) 1.1 SVD评价    优点: 简化数据, 去除噪声和冗余信息, 提高算法的结果    缺点: 数据的转换可能难以理解 1.2 SVD应用 ...

机器学习实战之PCA

2017-03-14

机器学习实战之PCA 1.  向量及其基变换 1.1 向量内积 (1)两个维数相同的向量的内积定义如下: 内积运算将两个向量映射为一个实数. (2) 内积的几何意义 假设A\\B是两个n维向量, n维向量可以 ...

机器学习实战之Apriori

2017-03-14

机器学习实战之Apriori 1. 关联分析 1.1 定义        关联分析是一种在大规模数据上寻找物品间隐含关系的一种任务.这种关系有2种形式:频繁项集和关联规则.    &n ...

如何区分人工智能，机器学习和深度学习

2017-03-14

我们都熟悉“人工智能”这一概念。毕竟，这个词常常在热门电影中出现，如《终结者》、《黑客帝国》、《机械姬》。 但最近你也可能常常听到其他术语，如“机器学习”和“深度学习”，这些词有时与人工智能交 ...

机器学习基础—梯度下降法（Gradient Descent）

2017-03-12

机器学习基础—梯度下降法（Gradient Descent） 梯度下降法。一开始只是对其做了下简单的了解。随着内容的深入，发现梯度下降法在很多算法中都用的到，除了之前看到的用来处理线性模型，还有BP神经网络等。于是 ...