Hadoop、Hive、Spark之间是什么关系

2017-06-12

Hadoop、Hive、Spark之间是什么关系 大数据本身是个很宽泛的概念，Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有 ...

R语言利器之ddply和aggregate

2017-06-11

R语言利器之ddply和aggregate ddply和aggregate是两个用来整合数据的功能强大的函数。 　　aggregate(x, ...) 　　关于aggregate()函数的使用在《R语言实战》中P105有简单描述，这里重新说一下。此函数主要有一 ...

R内存管理与垃圾清理

2017-06-11

R内存管理与垃圾清理 1.内存查看 memory.limit()：查看内存大小 memory.limit(n)：申请内存大小 memory.size(NA)：查看内存大小 memory.size(T)：查看已分配的内存 memory.size(F)：查看已使用的内存 2.内存申 ...

logistic回归和probit回归预测公司被ST的概率

2017-06-11

logistic回归和probit回归预测公司被ST的概率 1.适合阅读人群： 知道以下知识点：盒状图、假设检验、逻辑回归的理论、probit的理论、看过回归分析，了解AIC和BIC判别准则、能自己跑R语言程序 2.本文目的：用R语 ...

R语言从SNPedia批量提取搜索数据

2017-06-11

R语言从SNPedia批量提取搜索数据 SNP是单核苷酸多态性，人的基因是相似的，有些位点上存在差异，这种某个位点的核苷酸差异就做单核苷酸多态性，它影响着生物的性状，影响着对某些疾病的易感性。SNPedia是一个SN ...

R语言数据可视化2—ggplot2各种维度的业务量统计根据类型统计不同月份的业务

2017-06-11

R语言数据可视化2—ggplot2各种维度的业务量统计根据类型统计不同月份的业务 准备工作： 1.案例所用的表“test1.csv” 2.所用到的R包\"ggplot2\"、\"lubridate\" ggplot2介绍:用来作图 lubrid ...

R语言数据可视化1—ggplot2画柱状图

2017-06-11

R语言数据可视化1—ggplot2画柱状图 目的：将已有的业务表(csv格式)，导入到Rstudio中。根据“开始时间”，按月份统计出业务量。画出下图。（注：我选择的业务表中只有1、2、3月的数据） 开始吧！ ...

R语言面向对象编程:S3和R6

2017-06-10

R语言面向对象编程:S3和R6 一、基于S3的面向对象编程 基于S3的面向对象编程是一种基于泛型函数(generic function)的实现方式。 1.S3函数的创建 S3对象组成：generic(generic FUN)+method(generic.class FUN） ...

R语言数据分析利器data.table包—数据框结构处理精讲

2017-06-10

R语言数据分析利器data.table包—数据框结构处理精讲 R语言data.table包是自带包data.frame的升级版，用于数据框格式数据的处理，最大的特点快。包括两个方面，一方面是写的快，代码简洁，只要一行命令就可以完 ...

R语言通过parallel包实现多线程运行

2017-06-10

R语言通过parallel包实现多线程运行 总的来说，R的运算速度不算快，不过类似并行运算之类的改进可以提高运算的性能。下面非常简要地介绍如何利用R语言进行并行运算 library(parallel) cl.cores <- detectCor ...

R语言通过loess去除某个变量对数据的影响

2017-06-10

R语言通过loess去除某个变量对数据的影响 当我们想研究不同sample的某个变量A之间的差异时，往往会因为其它一些变量B对该变量的固有影响，而影响不同sample变量A的比较，这个时候需要对sample变量A进行标准化之 ...

R语言—连接Oracle数据库

2017-06-10

R语言—连接Oracle数据库 本教程会讲解两种方法，第一种方法较为简单，且中文不容易出现乱码。第二种方法，较为复杂，和java的jdbc连接数据库操作类似。 操作环境: 系统：windows10 64位 数据库：Oracle11 ...

时间序列分析算法【R详解】

2017-06-10

时间序列分析算法【R详解】 在商业应用中，时间是最重要的因素，能够提升成功率。然而绝大多数公司很难跟上时间的脚步。但是随着技术的发展，出现了很多有效的方法，能够让我们预测未来。不要担心，本文并不会 ...

R语言实现质量控制图

2017-06-09

R语言实现质量控制图 上次费了半天劲写出了Xbar-R代码之后第二天就发现了R语言中的SixSigma和qcc程序包。各种质量控制图应有尽有，画的还比我好看#手动微笑。 > library(qcc) #加载qcc程序包 > qcc(a ...

使用R语言预测泰坦尼克号乘客生存率

2017-06-09

使用R语言预测泰坦尼克号乘客生存率 1912年4月10日，号称 “世界工业史上的奇迹”的豪华客轮泰坦尼克号开始了自己的处女航，从英国的南安普顿出发驶往美国纽约，4月14日晚，泰坦尼克号在北大西洋撞上冰山而倾覆 ...

利用R语言的Boruta包进行特征选择

2017-06-09

利用R语言的Boruta包进行特征选择 变量选择是模型构建的一个重要方面，每个分析人员都必须学习。毕竟，它有助于排除相关变量、偏见和不必要噪音的限制来建立预测模型。 许多分析新手认为，保持所有（或更多 ...

R语言中的回归诊断-car包

2017-06-09

R语言中的回归诊断-car包 如何判断我们的线性回归模型是正确的？ 1、回归诊断的基本方法 opar<-par(no.readOnly=TRUE) fit <- lm(weight ~ height, data = women) par(mfrow = c(2, 2)) plot(fit) par(op ...

R语言在生态学研究中的应用分析

2017-06-09

R语言在生态学研究中的应用分析 随着观测手段的不断进步和长期观测数据的不断积累，加上数据共享机制不断完善，生态学研究已经跨入的大数据的时代。面对巨量的原始数据，一个生态学者需要运用相当可观的数学知 ...

R语言做数据探索

2017-06-09

R语言做数据探索 1 数据导入 数据常用格式.csv/.txt/.xls/.json/.xml。 R语言提供相应的函数和库实现对这些数据格式的导入。 现已导入.csv格式和以tab分隔的.txt格式为例 # 读.csv格式 data1<-read.c ...

SPSS统计基础-交叉表功能的使用

2017-06-08

SPSS统计基础-交叉表功能的使用 交叉表过程形成二阶和多阶表，并提供了各种二阶表关联检验和度量。表的结构以及类别是否排序决定了要使用的检验或度量。 仅对二阶表计算交叉表关联统计量和度量。如果指定一 ...