京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据的五大神话
尽管大数据正在被广泛的讨论,目前看来,其仍然是一个很大的谜一样的神话。事实上,围绕大数据的误解似乎已经达到了神话般的境界。如下便是五大神话。
1、大数据仅仅是海量的数据量
容量仅仅是界定大数据定义的关键要素之一,而对于大数据的定义至少有三个方面的重要要素。其他两方面分别是种类和传输速度。与后两者相结合,便是Gartner调研公司的道格?兰尼最初在2001年的调研报告中给出的关于大数据的概念。
一般来说,专家们普遍认为PB级的数据为大数据的起点,尽管这一指标仍然是一个变化中的目标。因此,虽然容量这一因素是非常重要的,而接下来的另外两个衡量指标也不容忽视。
种类是指许多不同的数据和文件类型,对于管理和更深入的分析数据是至关重要的。但不适合传统的关系数据库。这方面的例子包括各种声音和电影文件、图像、文档、地理定位数据、网络日志和文本字符串。
速度是有关数据的变化率,以及其必须如何快速的被使用,以创造真正的价值。传统技术,尤其不适合用于高速数据储存和使用。因此,采用新的方法是必要的。如果有问题的数据创建和聚合速度非常快,就必须使用迅速的方式来揭示其相关的模式和问题。你发现问题的速度越快,就越有利于您从你大数据分析中获得更多的机会。
2、大数据指的是Hadoop
Hadoop是Apache为大数据工作的开源软件框架。其是来自于Google的技术加上雅虎的理念和其他,并付诸实践得出的。但是,大数据是如此的多样,和复杂,其绝对不存在一套放之四海而皆准的万能的解决办法。虽然Hadoop已经毫无疑问的获得了相当大的知名度,但其也仅仅只是适合大数据存储和管理的三种技术的其中之一。其他两个种技术上NoSQL和大规模并行处理(MPP)数据存储。MPP数据存储的例子包括EMC的Greenplum、IBM公司的Netezza和惠普的Vertica。[page]
此外,Hadoop是一个软件框架,这意味着它包括若干专门设计的组件,是专门设计来解决大规模分布式数据存储,分析和检索任务的。不是所有的Hadoop组件都是必要的,对于一个大的数据解决方案,其中一些组件可取代其他技术,更好地配合用户的需求。一个例子是MapR的Hadoop,其中包括NFS作为HDFS的替代,并提供了一个完整的随机存取,读/写文件系统。
3、大数据意味着非结构化数据
“非结构化”这一术语是不准确的,其没有考虑到许多通常与大数据类型相关的不同的和微妙的结构。此外,大数据很可能在同一数据集有不同的数据类型,不包含相同的结构。
因此,大数据更好可能是被称为“多层结构”,因为它可以包含文本字符串、所有类型的文件、音频和视频文件、元数据、网页、电子邮件、社交媒体供稿、表格数据,等等。这些不同的数据类型一致的特点是不知道其数据架构或不知道在这些数据被捕获和存储时如何定义。相反,一个数据模型经常在数据被使用时进行应用。
4、大数据只是社会媒体内容和情感分析
简而言之,如果您的企业需要广泛地分析网络流量、IT系统日志、客户的情绪,或任何其他类型的每一天所创建的数字纪录册上的阴影,大数据提供了一个办法做到这一点。即使大数据的早期开拓者,已成为最大的基于网络的社会化媒体公司:谷歌、雅虎、Facebook,他们的服务所产生的数据,需要一种全新的解决方案,而不是分析社会媒体内容和访客情感分析。
现在,由于迅速增长的计算机电源(通常是基于云计算的)、开源软件(例如,Apache的Hadoop发行版),以及如果利用得当现代化对于数据可以产生经济价值的冲击,大数据源源不断地产生新的用途和应用。大数据带来了很多让人欣喜的成果,其中包含了一些令人深思的用途,这在今年年初曾经在“福布斯”上的相关文章中报道过。
5、NoSQL意味着非结构化查询语言
NoSQL意味着“不仅仅”是SQL,因为这些类型的数据存储提供特定领域的访问和查询技术,除了SQL或类似SQL接口。NoSQL这一类的技术,包括关键值存储、面向文档的数据库、图形数据库、大表结构和缓存数据存储。具体的本地存储的数据访问方法提供了一个丰富的、低延时的方法,通常是通过专有接口。SQL访问具有熟悉许多工具并与之兼容的优势。虽然这通常是在一些底层系统解释查询本地的“语言”的延迟费用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在零售行业从“流量争夺”转向“价值深耕”的演进中,塔吉特百货(Target)以两场标志性实践树立了行业标杆——2000年后的孕妇精 ...
2025-12-15在统计学领域,二项分布与卡方检验是两个高频出现的概念,二者都常用于处理离散数据,因此常被初学者混淆。但本质上,二项分布是 ...
2025-12-15在CDA(Certified Data Analyst)数据分析师的工作链路中,“标签加工”是连接原始数据与业务应用的关键环节。企业积累的用户行 ...
2025-12-15在Python开发中,HTTP请求是与外部服务交互的核心场景——调用第三方API、对接微服务、爬取数据等都离不开它。虽然requests库已 ...
2025-12-12在数据驱动决策中,“数据波动大不大”是高频问题——零售店长关心日销售额是否稳定,工厂管理者关注产品尺寸偏差是否可控,基金 ...
2025-12-12在CDA(Certified Data Analyst)数据分析师的能力矩阵中,数据查询语言(SQL)是贯穿工作全流程的“核心工具”。无论是从数据库 ...
2025-12-12很多小伙伴都在问CDA考试的问题,以下是结合 2025 年最新政策与行业动态更新的 CDA 数据分析师认证考试 Q&A,覆盖考试内容、报考 ...
2025-12-11在Excel数据可视化中,柱形图因直观展示数据差异的优势被广泛使用,而背景色设置绝非简单的“换颜色”——合理的背景色能突出核 ...
2025-12-11在科研实验、商业分析或医学研究中,我们常需要判断“两组数据的差异是真实存在,还是偶然波动”——比如“新降压药的效果是否优 ...
2025-12-11在CDA(Certified Data Analyst)数据分析师的工作体系中,数据库就像“数据仓库的核心骨架”——所有业务数据的存储、组织与提 ...
2025-12-11在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02