R语言实现决策树分析

2018-06-13

R语言实现决策树分析 决策树是附加概率结果的一个树状的决策图，是直观的运用统计概率分析的图法。机器学习中决策树是一个预测模型，它表示对象属性和对象值之间的一种映射，树中的每一个节点表示对象属性的判 ...

使用R完成决策树分类

2018-06-13

使用R完成决策树分类 传统的ID3和C4.5一般用于分类问题，其中ID3使用信息增益进行特征选择，即递归的选择分类能力最强的特征对数据进行分割，C4.5唯一不同的是使用信息增益比进行特征选择。 特征A对训练数据D的 ...

用R软件做分类树和回归树（CART）

2018-05-29

用R软件做分类树和回归树（CART） 决策树（Decision Tree）又称为判定树，是运用于分类的一种树结构。其中的每个内部结点（internal node）代表对某个属性的一次测试，每条边代表一个测试结果，叶结点（leaf） ...

机器学习故事汇-决策树算法

2018-03-22

机器学习故事汇-决策树算法 【咱们的目标】系列算法讲解旨在用最简单易懂的故事情节帮助大家掌握晦涩无趣的机器学习，适合对数学很头疼的同学们，小板凳走起！ 决策树模型是机器学习中最经典的算法之一 ...

利用R语言如何判别和分类

2018-01-21

利用R语言如何判别和分类 判别分析（discriminant analysis）是一种分类技术。它通过一个已知类别的“训练样本”来建立判别准则，并通过预测变量来为未知类别的数据进行分类。       ...

r语言做决策树代码实现

2018-01-21

r语言做决策树代码实现 0.节点和结点的区别：节点为两线相交，不为终点；而结点为两线相交为终点，没有延伸； 1.分支节点：它指向其他的节点，所以是度不为0的节点。 vs 叶子结点：度为0的结点 2.度：结点拥有 ...

R语言使用朴素贝叶斯分类算法

2018-01-15

朴素贝叶斯分类器也是一类基于概率的分类器，它源于贝叶斯理论，假设样本属性之间相互独立。 操作 利用朴素贝叶斯分类器对churn数据集进行分类： 导入e1071库，使用naiveBayes函数构建分类器 library(e1071) class ...

python编写朴素贝叶斯用于文本分类

2018-01-08

python编写朴素贝叶斯用于文本分类 朴素贝叶斯估计 朴素贝叶斯是基于贝叶斯定理与特征条件独立分布假设的分类方法。首先根据特征条件独立的假设学习输入/输出的联合概率分布，然后基于此模型，对给定的输入 ...

文本分类常用算法比较

2017-12-10

文本分类常用算法比较 本文对文本分类中的常用算法进行了小结，比较它们之间的优劣，为算法的选择提供依据。  一、决策树（Decision Trees） 优点：  1、决策树易于理解和解 ...

朴素贝叶斯模型:文本分类+垃圾邮件分类

2017-12-10

朴素贝叶斯模型:文本分类+垃圾邮件分类 学习了那么多机器学习模型，一切都是为了实践，动手自己写写这些模型的实现对自己很有帮助的，坚持，共勉。本文主要致力于总结贝叶斯实战中程序代码的实现（python）及朴 ...

关于推荐算法的一些思考

2017-10-16

关于推荐算法的一些思考 最近做了一个交叉销售的项目，梳理了一些关键点，分享如下，希望对大家有所启发 核心目标：在有限资源下，尽可能的提供高转化率的用户群，辅助业务增长 初步效果：商家ROI值为50 ...

R语言与机器学习中的回归方法学习笔记

2017-07-21

R语言与机器学习中的回归方法学习笔记  机器学习中的一些方法如决策树，随机森林，SVM，神经网络由于对数据没有分布的假定等普通线性回归模型的一些约束，预测效果也比较不错，交叉验证结果也能被接受。下 ...

判别分析的基本思想以及常见的判别分析方法

2017-05-12

判别分析的基本思想以及常见的判别分析方法 判别分析的基本概念及应用 从统计的角度来看，判别分析可以描述为：已知有个总体，现有样本y，要根据这k个总体和当前样本的特征，判定该样本y属于哪一个总体。其 ...

机器学习中的范数规则化之 L0、L1与L2范数

2017-05-11

机器学习中的范数规则化之 L0、L1与L2范数 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇 ...

简单易学的机器学习算法—朴素贝叶斯

2017-03-23

简单易学的机器学习算法—朴素贝叶斯 一、贝叶斯定理   1、条件概率 条件概率是指在事件B发生的情况下，事件A发生的概率，用表示。    2、全概率公式 含义是： ...

从朴素贝叶斯分类器到贝叶斯网络（下）

2017-03-18

从朴素贝叶斯分类器到贝叶斯网络（下） 三、贝叶斯网络 贝叶斯网络（Bayesian Network）是一种用于表示变量间依赖关系的数据结构，有时它又被称为信念网络（Belief Network）或概率网络（Probability Networ ...

机器学习实现与分析之五（高斯判别分析）

2017-03-15

机器学习实现与分析之五（高斯判别分析） 高斯判别分析（GDA）简介 首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: 这 ...

【机器学习实战】Naive Bayes

2017-03-14

一、概述 优点：在数据少的情况下仍然有效，可以处理多类别问题 缺点：对于输入数据的准备方式较为敏感 适用数据类型：标称型数据 二、原理 三、文档分类 A,B,C,D..为文档中单词。假设总词汇只有A,B,C,D四种。训练样 ...

分类算法之贝叶斯网络(Bayesian networks)

2016-12-23

分类算法之贝叶斯网络(Bayesian networks) 在上一篇文章中我们讨论了朴素贝叶斯分类。朴素贝叶斯分类有一个限制条件，就是特征属性必须有条件独立或基本独立（实际上在现实应用中几乎不可能做到完全独立）。当 ...

R语言中的线性判别分析_r语言 线性判别分析

2016-12-19

R语言中的线性判别分析_r语言 线性判别分析 在R语言中，线性判别分析（Liner Discriminant Analysis，简称LDA），依靠软件包MASS中有线性判别函数lqa()来实现。该函数有三种调用格式： 1）当对象为数据框dat ...