京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据分析的三大演进方向
最近Gartner发布了2013年度BI和数据分析的魔力四象限图,同时Wikibon也发布了2013年大数据市场预测,两份报告都明确指出,随着数据分析正在成为企业IT的核心,昔日的BI-ETL-EDW分析范型已经完全落伍,不再适用。
2013开年不久,一连串的重大事件的发生标志着大数据和数据分析领域正在加速演进,对于数据分析师专业人士和企业管理者来说,2013年是大数据进入企业应用的关键一年。
近日Alteryx公司总裁乔治马修(George Mathew,Twitter帐号@gkm1)与大数据领域的著名专家Mayank Bawa、Mike Olson和Scott Yara就数据分析的传统范型(BI-ETL-EDW)即将被新的分析范型取代达成共识,几位专家认为全新的数据分析平台将消除当前分析软件在设计和实施方面的延迟和低效率,从根本上重新思考和定义三大阻碍企业数据分析应用的关键问题:数据管理、分析透明度以及用户应用。
以下是马修在博客中对新数据分析范型三大演进方向的解读,IT经理网编译整理如下:
一、数据管理
Hadoop已经成为企业管理大数据的基础支撑技术。最近随着Greenplum Pivotal HD、Hortonworks Stinger和Cloudera的Impala的发布,Hadoop的技术创新速度正在加快,上述Hadoop项目传递出一个非常明确的信号:主要的Hadoop发行商想要在Hadoop HDFS之上提供实时、互动的查询服务。这个趋势将两个领域的杰作整合到了一起:众所周知的SQL查询处理与具备指数级扩展能力的HDFS存储架构。参考阅读:Hadoop发行版升级,NoSQL的未来是SQL?
二、去黑箱化
预测分析是管理者进行数据化决策的关键。目前预测和统计分析领域已经已经有很多技术可以帮助企业洞察不远的未来。但预测分析眼下面临的的最大问题是“黑箱”化。随着企业领导越来越多地以来预测分析技术做出重大商业决策,预测分析技术需要去黑箱化:包括应用自描述数据沿袭,增加对底层数学和算法解释等。“去黑箱化”有利于企业管理者学会彻底驾驭数据分析工具,不但看到数据分析结果,还知道分析是如何得来的,分析工具的设计原理等,这有助于管理者增加对预测分析的信心,而不是过去那样完全依靠“信仰”。
三、应用普及
即使实现了分析的去黑箱化,企业数据分析应用在企业中的部署依然面临以下几个方面的挑战:发布可复用应用,创建最佳实践、组织范围内的横向协作,无缝重组模型等。在最终用户(员工)中的应用普及是数据分析成功的关键。例如建设一个专门提供分析应用的企业移动应用商店App Store往往能大大加快数据分析的应用普及。
新数据分析范型的重要特征:
新的数据分析范型是目标导向的,不关心数据的来源和格式,能够无缝处理结构化、非结构化和半结构化数据。能够输出有效结果;能够提供去黑箱化的预测分析服务,能够面向更广泛的普通员工快速部署分析应用。
最近Gartner发布了2013年度BI和分析的魔力四象限图,同时Wikibon也发布了2013年大数据市场预测,两个报告都明确指出,随着数据分析正在成为企业IT的核心,昔日的BI-ETL-EDW分析范型已经完全落伍,不再适用。新的数据分析范型正在崛起,以下是我们能看到的未来趋势:
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在使用Excel数据透视表进行数据分析时,我们常需要在透视表旁添加备注列,用于标注数据背景、异常说明、业务解读等关键信息。但 ...
2025-12-22在MySQL数据库的性能优化体系中,索引是提升查询效率的“核心武器”——一个合理的索引能将百万级数据的查询耗时从秒级压缩至毫 ...
2025-12-22在数据量爆炸式增长的数字化时代,企业数据呈现“来源杂、格式多、价值不均”的特点,不少CDA(Certified Data Analyst)数据分 ...
2025-12-22在企业数据化运营体系中,同比、环比分析是洞察业务趋势、评估运营效果的核心手段。同比(与上年同期对比)可消除季节性波动影响 ...
2025-12-19在数字化时代,用户已成为企业竞争的核心资产,而“理解用户”则是激活这一资产的关键。用户行为分析系统(User Behavior Analys ...
2025-12-19在数字化转型的深水区,企业对数据价值的挖掘不再局限于零散的分析项目,而是转向“体系化运营”——数据治理体系作为保障数据全 ...
2025-12-19在数据科学的工具箱中,析因分析(Factor Analysis, FA)、聚类分析(Clustering Analysis)与主成分分析(Principal Component ...
2025-12-18自2017年《Attention Is All You Need》一文问世以来,Transformer模型凭借自注意力机制的强大建模能力,在NLP、CV、语音等领域 ...
2025-12-18在CDA(Certified Data Analyst)数据分析师的时间序列分析工作中,常面临这样的困惑:某电商平台月度销售额增长20%,但增长是来 ...
2025-12-18在机器学习实践中,“超小数据集”(通常指样本量从几十到几百,远小于模型参数规模)是绕不开的场景——医疗领域的罕见病数据、 ...
2025-12-17数据仓库作为企业决策分析的“数据中枢”,其价值完全依赖于数据质量——若输入的是缺失、重复、不一致的“脏数据”,后续的建模 ...
2025-12-17在CDA(Certified Data Analyst)数据分析师的日常工作中,“随时间变化的数据”无处不在——零售企业的每日销售额、互联网平台 ...
2025-12-17在休闲游戏的运营体系中,次日留存率是当之无愧的“生死线”——它不仅是衡量产品核心吸引力的首个关键指标,更直接决定了后续LT ...
2025-12-16在数字化转型浪潮中,“以用户为中心”已成为企业的核心经营理念,而用户画像则是企业洞察用户、精准决策的“核心工具”。然而, ...
2025-12-16在零售行业从“流量争夺”转向“价值深耕”的演进中,塔吉特百货(Target)以两场标志性实践树立了行业标杆——2000年后的孕妇精 ...
2025-12-15在统计学领域,二项分布与卡方检验是两个高频出现的概念,二者都常用于处理离散数据,因此常被初学者混淆。但本质上,二项分布是 ...
2025-12-15在CDA(Certified Data Analyst)数据分析师的工作链路中,“标签加工”是连接原始数据与业务应用的关键环节。企业积累的用户行 ...
2025-12-15在Python开发中,HTTP请求是与外部服务交互的核心场景——调用第三方API、对接微服务、爬取数据等都离不开它。虽然requests库已 ...
2025-12-12在数据驱动决策中,“数据波动大不大”是高频问题——零售店长关心日销售额是否稳定,工厂管理者关注产品尺寸偏差是否可控,基金 ...
2025-12-12在CDA(Certified Data Analyst)数据分析师的能力矩阵中,数据查询语言(SQL)是贯穿工作全流程的“核心工具”。无论是从数据库 ...
2025-12-12