判别分析的基本思想以及常见的判别分析方法

2017-05-12

判别分析的基本思想以及常见的判别分析方法 判别分析的基本概念及应用 从统计的角度来看，判别分析可以描述为：已知有个总体，现有样本y，要根据这k个总体和当前样本的特征，判定该样本y属于哪一个总体。其 ...

机器学习中的范数规则化之 L0、L1与L2范数

2017-05-11

机器学习中的范数规则化之 L0、L1与L2范数 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇 ...

简单易学的机器学习算法—朴素贝叶斯

2017-03-23

简单易学的机器学习算法—朴素贝叶斯 一、贝叶斯定理   1、条件概率 条件概率是指在事件B发生的情况下，事件A发生的概率，用表示。    2、全概率公式 含义是： ...

从朴素贝叶斯分类器到贝叶斯网络（下）

2017-03-18

从朴素贝叶斯分类器到贝叶斯网络（下） 三、贝叶斯网络 贝叶斯网络（Bayesian Network）是一种用于表示变量间依赖关系的数据结构，有时它又被称为信念网络（Belief Network）或概率网络（Probability Networ ...

机器学习实现与分析之五（高斯判别分析）

2017-03-15

机器学习实现与分析之五（高斯判别分析） 高斯判别分析（GDA）简介 首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: 这 ...

【机器学习实战】Naive Bayes

2017-03-14

一、概述 优点：在数据少的情况下仍然有效，可以处理多类别问题 缺点：对于输入数据的准备方式较为敏感 适用数据类型：标称型数据 二、原理 三、文档分类 A,B,C,D..为文档中单词。假设总词汇只有A,B,C,D四种。训练样 ...

分类算法之贝叶斯网络(Bayesian networks)

2016-12-23

分类算法之贝叶斯网络(Bayesian networks) 在上一篇文章中我们讨论了朴素贝叶斯分类。朴素贝叶斯分类有一个限制条件，就是特征属性必须有条件独立或基本独立（实际上在现实应用中几乎不可能做到完全独立）。当 ...

R语言中的线性判别分析_r语言 线性判别分析

2016-12-19

R语言中的线性判别分析_r语言 线性判别分析 在R语言中，线性判别分析（Liner Discriminant Analysis，简称LDA），依靠软件包MASS中有线性判别函数lqa()来实现。该函数有三种调用格式： 1）当对象为数据框dat ...

数据挖掘分类方法小结_数据挖掘中的基于决策树的分类方法

2016-12-14

数据挖掘分类方法小结_数据挖掘中的基于决策树的分类方法 数据仓库，数据库或者其它信息库中隐藏着许多可以为商业、科研等活动的决策提供所需要的知识。分类与预测是两种数据分析形式，它们可以用来抽取能够描 ...

数据挖掘分类技术_数据挖掘分类

2016-12-13

数据挖掘分类技术_数据挖掘分类 1、过分拟合问题： 造成原因有：（1）噪声造成的过分拟合（因为它拟合了误标记的训练记录，导致了对检验集中记录的误分类）；（2）根据少量训练记录做出分类决策的模型也容易 ...

机器学习实战之朴素贝叶斯

2016-12-11

机器学习实战之朴素贝叶斯 一、概述 朴素贝叶斯分类算法是基于概率论中的贝叶斯公式得到的，也是比较常用的一种算法，而朴素代表的是属性之间的独立性，这样联合概率可以转换成各概率分量的乘积。 二、算法思想 ...

2017校招数据分析岗笔试/面试知识点

2016-09-26

2017校招正在火热的进行，后面会不断更新涉及到的相关知识点。 尽管听说今年几个大互联网公司招的人超少，但好像哪一年都说是就业困难，能够进去当然最好，不能进去是不是应该也抱着好的期望去找自己满意的呢？ 最 ...

数据挖掘- 分类算法比较

2016-07-20

数据挖掘- 分类算法比较 随着计算能力、存储、网络的高速发展，人类积累的数据量正以指数速度增长。对于这些数据，人们迫切希望从中提取出隐藏其中的有用信息，更需要发现更深层次的规律，对决策，商务应用提 ...

常见机器学习算法比较

2016-07-11

常见机器学习算法比较 机器学习算法太多了，分类、回归、聚类、推荐、图像识别领域等等，要想找到一个合适算法真的不容易，所以在实际应用中，我们一般都是采用启发式学习方式来实验。通常最开始我们都会选择 ...

贝叶斯机器学习

2016-06-03

贝叶斯机器学习 你知道贝叶斯法则。机器学习与它有何相关？它可能很难掌握如何把拼图块放在一起——我们了解它花了一段时间。 贝叶斯和频率论者 在本质上，贝叶斯意味着概率。这个具体的术语存在是因为有 ...

数据挖掘之决策树分类

2016-05-19

数据挖掘之决策树分类 1. 理论知识 决策树分类算法的一般流程如下：一开始，所有的实例均位于根节点，所有参数的取值均离散化；根据启发规则选择一个参数，根据参数取值的不同对实例集进行分割； ...

朴素贝叶斯分类和预测算法的原理及实现

2016-04-13

朴素贝叶斯分类和预测算法的原理及实现 决策树和朴素贝叶斯是最常用的两种分类算法，本篇文章介绍朴素贝叶斯算法。贝叶斯定理是以英国数学家贝叶斯命名，用来解决两个条件概率之间的关系问题。简单的说就是在已 ...

SAS数据挖掘实战篇【七】

2016-04-10

SAS数据挖掘实战篇【七】 6.5  SAS EM数据挖掘-----预测模型 １  问题定义 目标：建立模型预测贷款申请的信用状态，选择最优的模型来预测和减少损失。 数据集：SAMPSI ...

用SPSS做判别分析的流程介绍

2016-03-22

用SPSS做判别分析的流程介绍 如何用SPSS做判别分析呢？下面我们就说说用SPSS的整个操作流程。 1．Discriminant Analysis判别分析主对话框     如图 1-1 所示   ...

数据挖掘十大算法总结--核心思想，算法优缺点，应用领域，数据挖掘优缺点

2016-03-19

数据挖掘十大算法总结--核心思想，算法优缺点，应用领域，数据挖掘优缺点 本文所涉算法均只概述核心思想，具体实现细节参看“数据挖掘算法学习”分类下其他文章，不定期更新中。转载请注明出处，谢谢。 参考 ...