Hadoop、Hive、Spark之间是什么关系 大数据本身是个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆,各有 ...
2017-06-12
R语言利器之ddply和aggregate ddply和aggregate是两个用来整合数据的功能强大的函数。 aggregate(x, ...) 关于aggregate()函数的使用在《R语言实战》中P105有简单描述,这里重新说一下。此函数主要有一 ...
2017-06-11
R内存管理与垃圾清理 1.内存查看 memory.limit():查看内存大小 memory.limit(n):申请内存大小 memory.size(NA):查看内存大小 memory.size(T):查看已分配的内存 memory.size(F):查看已使用的内存 2.内存申 ...
2017-06-11
logistic回归和probit回归预测公司被ST的概率 1.适合阅读人群: 知道以下知识点:盒状图、假设检验、逻辑回归的理论、probit的理论、看过回归分析,了解AIC和BIC判别准则、能自己跑R语言程序 2.本文目的:用R语 ...
2017-06-11
R语言从SNPedia批量提取搜索数据 SNP是单核苷酸多态性,人的基因是相似的,有些位点上存在差异,这种某个位点的核苷酸差异就做单核苷酸多态性,它影响着生物的性状,影响着对某些疾病的易感性。SNPedia是一个SN ...
2017-06-11
R语言数据可视化2—ggplot2各种维度的业务量统计根据类型统计不同月份的业务 准备工作: 1.案例所用的表“test1.csv” 2.所用到的R包\"ggplot2\"、\"lubridate\" ggplot2介绍:用来作图 lubrid ...
2017-06-11
R语言数据可视化1—ggplot2画柱状图 目的:将已有的业务表(csv格式),导入到Rstudio中。根据“开始时间”,按月份统计出业务量。画出下图。(注:我选择的业务表中只有1、2、3月的数据) 开始吧! ...
2017-06-11
R语言面向对象编程:S3和R6 一、基于S3的面向对象编程 基于S3的面向对象编程是一种基于泛型函数(generic function)的实现方式。 1.S3函数的创建 S3对象组成:generic(generic FUN)+method(generic.class FUN) ...
2017-06-10
R语言数据分析利器data.table包—数据框结构处理精讲 R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快。包括两个方面,一方面是写的快,代码简洁,只要一行命令就可以完 ...
2017-06-10
R语言通过parallel包实现多线程运行 总的来说,R的运算速度不算快,不过类似并行运算之类的改进可以提高运算的性能。下面非常简要地介绍如何利用R语言进行并行运算 library(parallel) cl.cores <- detectCor ...
2017-06-10
R语言通过loess去除某个变量对数据的影响 当我们想研究不同sample的某个变量A之间的差异时,往往会因为其它一些变量B对该变量的固有影响,而影响不同sample变量A的比较,这个时候需要对sample变量A进行标准化之 ...
2017-06-10
R语言—连接Oracle数据库 本教程会讲解两种方法,第一种方法较为简单,且中文不容易出现乱码。第二种方法,较为复杂,和java的jdbc连接数据库操作类似。 操作环境: 系统:windows10 64位 数据库:Oracle11 ...
2017-06-10
时间序列分析算法【R详解】 在商业应用中,时间是最重要的因素,能够提升成功率。然而绝大多数公司很难跟上时间的脚步。但是随着技术的发展,出现了很多有效的方法,能够让我们预测未来。不要担心,本文并不会 ...
2017-06-10
R语言实现质量控制图 上次费了半天劲写出了Xbar-R代码之后第二天就发现了R语言中的SixSigma和qcc程序包。各种质量控制图应有尽有,画的还比我好看#手动微笑。 > library(qcc) #加载qcc程序包 > qcc(a ...
2017-06-09
使用R语言预测泰坦尼克号乘客生存率 1912年4月10日,号称 “世界工业史上的奇迹”的豪华客轮泰坦尼克号开始了自己的处女航,从英国的南安普顿出发驶往美国纽约,4月14日晚,泰坦尼克号在北大西洋撞上冰山而倾覆 ...
2017-06-09
利用R语言的Boruta包进行特征选择 变量选择是模型构建的一个重要方面,每个分析人员都必须学习。毕竟,它有助于排除相关变量、偏见和不必要噪音的限制来建立预测模型。 许多分析新手认为,保持所有(或更多 ...
2017-06-09
R语言中的回归诊断-car包 如何判断我们的线性回归模型是正确的? 1、回归诊断的基本方法 opar<-par(no.readOnly=TRUE) fit <- lm(weight ~ height, data = women) par(mfrow = c(2, 2)) plot(fit) par(op ...
2017-06-09
R语言在生态学研究中的应用分析 随着观测手段的不断进步和长期观测数据的不断积累,加上数据共享机制不断完善,生态学研究已经跨入的大数据的时代。面对巨量的原始数据,一个生态学者需要运用相当可观的数学知 ...
2017-06-09
R语言做数据探索 1 数据导入 数据常用格式.csv/.txt/.xls/.json/.xml。 R语言提供相应的函数和库实现对这些数据格式的导入。 现已导入.csv格式和以tab分隔的.txt格式为例 # 读.csv格式 data1<-read.c ...
2017-06-09
SPSS统计基础-均值功能的使用 均值过程计算一个或多个自变量类别中因变量的子组均值和相关的单变量统计。您也可以获得单因素方差分析、eta 和线性相关检验。 统计量。合计、个案数、均值、中位数、组内中位 ...
2017-06-08在 MySQL 数据查询中,“按顺序计数” 是高频需求 —— 例如 “统计近 7 天每日订单量”“按用户 ID 顺序展示消费记录”“按产品 ...
2025-10-31在数据分析中,“累计百分比” 是衡量 “部分与整体关系” 的核心指标 —— 它通过 “逐步累加的占比”,直观呈现数据的分布特征 ...
2025-10-31在 CDA(Certified Data Analyst)数据分析师的工作中,“二分类预测” 是高频需求 —— 例如 “预测用户是否会流失”“判断客户 ...
2025-10-31在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23