
大数据是时下最热门的企业IT话题,那么大数据对存储有什么要求呢?为了解决这个问题,我们首先来分析一下大数据的特点。
Gartner对大数据下了一个简洁的定义:“大数据是需要新处理模式才能具有更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产。”
所以,大数据既包含结构化数据也包括非结构化数据,而且是以数量巨大、变化率高的形式存在。
大数据如此热门的主要原因是因为它能提供可行性的见解。企业通常使用分析应用来提取大数据里的本来难以挖掘的信息,而这是用现有的技术和方法不可能办到的。
像石化工业和金融服务行业已经使用数据仓库技术来处理大量的数据几十年了。但这并不是指现在所谓的大数据。
主要区别在于,现在的大数据包括非结构化数据,并且可以从各种数据中提取有用的信息,比如邮件、日志文件、社交多媒体、商业交易及其他数据。
比如,保存在数据库里的一家连锁零售商店的某商品的销售图表数据。对这些数据的获取就不是大数据范畴的问题。
但是如果企业需要把某商品的销售量和特定时刻的天气状况,或者不同的消费者信息联系起来,并且要求能快速获取这些信息,这需要密集处理,这就是大数据技术的一种应用。
大数据存储和传统的数据存储相比有什么不同?
大数据应用的一个主要特点是实时性或者近实时性。比如,如果警察拦住一辆车,想得到这辆车的相关信息,那么这对时间的要求是越快越好。
类似的,一个金融类的应用,能为业务员从数量巨大种类繁多的数据里快速挖掘出相关信息,能帮助他们领先于竞争对手做出交易的决定。
数据通常以每年增长50%的速度快速激增,尤其是非结构化数据。随着科技的进步,有越来越多的传感器采集数据、移动设备、社交多媒体等等,所以数据只可能继续增长。
总而言之,大数据需要非常高性能、高吞吐率、大容量的基础设备。
大数据存储选择
选择存储大数据方法时需要考虑到应用特点和使用模式。
在传统的数据仓库上进行对相似数据集的挖掘操作,一般都在一个单独的存储设备上进行。现在这种方法对处理能力和存储容量的可扩展性来说已经不是最优的选择了。
相反,一个web分析工作负载要求能在低延迟的情况下访问大量的小文件,使用大量的电脑或者存储单元,性能和容量都可以在一定条件下进行扩展。这种存储方式更适合大数据。
这里提到了多种存储方法。
首先是横向扩展(scale-out)NAS。
横向扩展NAS是文件级别的访问存储器,它是由多个连接在一起的存储节点构成,而且存储容量和处理能力会随着节点的增加而提升。同时,支持数十亿文件和PB级存储容量的并行文件系统允许把不同位置的大量数据连接起来。
横向扩展NAS产品主要包括:EMC Isilon及其OneFS分布式文件系统;HDS的 Cloudera Hadoop Distribution Cluster 基准体系架构;Data Direct Networks hScaler Hadoop NAS平台;IBM的SONAS;HP的X9000;还有DATA Ontap横向扩展操作系统版本已经到8.2的NetApp。
另外一个适合处理大量数据的技术是对象存储。对象存储有可能替代传统的树形文件系统。对象存储支持平行的数据结构,所有文件都有唯一的ID标识,类似于网上的DNS系统。在平行的文件系统结构中比在垂直的文件系统结构中处理大量的对象要简单的多。
对象存储产品越来越多的支持大数据分析环境,其产品主要有Scality的RING体系结构,Dell 的DX,还有EMC的Atmos平台。
Hyperscale、大数据和ViPR
一个被称作hyperscale的计算机/存储体系结构凭借其被诸如Facebook和Google等公司的使用,而日益突显。Hyperscale使用许多相对简单常见的基于硬件的直连式存储计算机节点,来提高大数据分析环境的性能,比如Hadoop。
和传统的企业级计算和存储构架不同,hyperscale在完整的计算机/DAS节点上进行冗余备份。如果一部分节点遇到故障,失败的任务将会交给另一个备份节点。整个出故障的单元都会被替换。
这个方法适合非常大规模数据的用户,比如前面提到的一些网络先驱者。
但是这也不一定,因为一些有实力的供应商已经意识到hyperscale体系结构给他们带来的机会和威胁,同时随着数据的增长,大数据种类也纷繁复杂。
这似乎就是EMC推出其软件定义存储ViPR的原因了。今年EMC World 公布,ViPR在现有的存储设备上放置了一个横向扩展对象,能将这些存储设备——EMC或者其它供应商的存储阵列、DAS和商品存储——管理起来作为一个单独的存储池。另外,ViPR的存储容量可以通过API连接到Hadoop或者其它大数据分析引擎,使数据可以在数据存储的位置进行分析查询。
Nutanix被称为高度融合的存储和计算节点的出现也反应了这个趋势。
这个初创公司将计算和存储系统合并到了一起,并出售其支持集群的2U系统,该系统为Hadoop用户提供hyperscale节点,每个节点有四个CPU插槽。使用SSD和旋转介质,提供数据分层和压缩,能达到宣称的2GBps的吞吐量。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中,“设计标签逻辑” 只是第一步,真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键,在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时,折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时,“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号(如 “北京 ...
2025-09-28在 CDA(Certified Data Analyst)数据分析师的技能工具箱中,数据查询语言(尤其是 SQL)是最基础、也最核心的 “武器”。无论 ...
2025-09-28Cox 模型时间依赖性检验:原理、方法与实战应用 在生存分析领域,Cox 比例风险模型(Cox Proportional Hazards Model)是分析 “ ...
2025-09-26检测因子类型的影响程度大小:评估标准、实战案例与管控策略 在检测分析领域(如环境监测、食品质量检测、工业产品合规性测试) ...
2025-09-26CDA 数据分析师:以数据库为基石,筑牢数据驱动的 “源头防线” 在数据驱动业务的链条中,“数据从哪里来” 是 CDA(Certified D ...
2025-09-26线性相关点分布的四种基本类型:特征、识别与实战应用 在数据分析与统计学中,“线性相关” 是描述两个数值变量间关联趋势的核心 ...
2025-09-25深度神经网络神经元个数确定指南:从原理到实战的科学路径 在深度神经网络(DNN)的设计中,“神经元个数” 是决定模型性能的关 ...
2025-09-25在企业数字化进程中,不少团队陷入 “指标困境”:仪表盘上堆砌着上百个指标,DAU、转化率、营收等数据实时跳动,却无法回答 “ ...
2025-09-25MySQL 服务器内存碎片:成因、检测与内存持续增长的解决策略 在 MySQL 运维中,“内存持续增长” 是常见且隐蔽的性能隐患 —— ...
2025-09-24人工智能重塑工程质量检测:核心应用、技术路径与实践案例 工程质量检测是保障建筑、市政、交通、水利等基础设施安全的 “最后一 ...
2025-09-24CDA 数据分析师:驾驭通用与场景指标,解锁数据驱动的精准路径 在数据驱动业务的实践中,指标是连接数据与决策的核心载体。但并 ...
2025-09-24在数据驱动的业务迭代中,AB 实验系统(负责验证业务优化效果)与业务系统(负责承载用户交互与核心流程)并非独立存在 —— 前 ...
2025-09-23CDA 业务数据分析:6 步闭环,让数据驱动业务落地 在企业数字化转型中,CDA(Certified Data Analyst)数据分析师的核心价值,并 ...
2025-09-23