京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据or传统数据,只需找到合适工具_数据分析师
在近期举行的Enterprise Data World大会上,参会者纷纷对"大数据"这一话题发表了自己的看法。来自InfoAdvisors的首席咨询师Karen Lopez作为其中一员,认为大数据并不像看上去那么靠谱。
Lopez说:"从最基本的问题来说,到底什么是大数据?我相信根本就没有人能真正讲清楚。"Lopez拿维基百科上的解释举例,上面说大数据是指那些数据量增长到很大以至于难以处理的数据集。Lopez说:"这到底算是哪门子定义?"
这位在Twitter上非常知名的咨询师又谈到了Apache Hadoop和其他一些相关的技术,她表示Hadoop的伟大之处在于所有跟它相关的事务都会以Hadoop命名,比如Hadoop Column,Hadoop分布式文件系统,Hadoop MapReduce等等等等。那只黄色的小象吉祥物为什么不叫Harry或者Harvey,而偏偏叫Hadoop这么奇怪的名字呢?
Lopez还列出了一些没有以Hadoop命名的技术,包括了Hive、Pig、Zookeeper和Mahout(在印度语中是骑象人的意思)。她略带嘲讽地说:"用到这些技术的项目肯定不能按时完成,因为骑象人要和猪(Pig)、饲养员(Zookeeper)一起工作,听上去就不那么快。"
除此之外,Lopez还对大数据的不可预知性做出来自己的判断。她说:"你不可能提前知道会得到什么类型的数据,它是缺乏Schema的。现在的问题是,只有在数据到达并展现出来之后,你才能知道如何去设计架构。也就是说,在进行数据建模的时候,你要以冲刺的速度来完成。我所谓的冲刺的速度应该是接近光速了,所以希望你们现在就开始练习。"
当然这只是句玩笑话,但是Lopez解释了她为什么要给用户泼泼冷水。她认为大数据的火爆很大一部分源自于厂商的炒作,在她看来,大数据技术同其他任何技术都一样,并不是"包治百病"的"万灵丹".Lopez表示:"没有理由认为大数据与传统的关系型数据或者结构化数据是对立的,我们对于后者已经非常熟悉。我们要的是正确的工具来应对正确的工作,大或者小都不妨碍我们找到这个工具。"
也有一些用户发表了不同的见解,来自Phasic Systems公司的CEO Geoffrey P. Malafsky博士认为,关系型数据库技术已经十分陈旧,会被技术的洪流所抛弃。大数据不是无缘无故流行起来的。无schema的数据是不存在的,只要是数据存储在系统中,它就是有一个schema的。
来自Oracle公司的金融服务技术总监Amir Halfon没有像Malafsky博士一样断然反驳Lopez的说法,但是他认为Lopez讽刺Hadoop的做法并不合适。Halfon也是半开玩笑地说,Hadoop的作者是个技术大牛,他还发起了许多其他的技术项目,不可能给每一个技术都起一个让她满意的名字。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23 很多数据分析师精通Excel、SQL、Python等工具,但当被问到“面对一个具体的业务问题,该用什么分析方法”“描述性分析和诊断 ...
2026-07-23【核心关键词】埋点、产品、互联网、数据库、决策、数据分析、产品经理、商业模式、移动互联网、指标体系、运营模块、大数据平 ...
2026-07-22在高并发、大数据量的业务系统中,单表数据量达到千万级甚至亿级后,会出现查询性能骤降、索引维护成本飙升、存储扩容困难等问题 ...
2026-07-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-07-22在金融风控、企业运营、行业研究等数据分析场景中,大量数据以面板数据形态存在:例如多家分支机构连续多个季度的风险指标、多位 ...
2026-07-21 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-07-21