
关于大数据的十大重要事实_数据分析师
无论您青睐还是拒绝,大数据都已经成为一种事实。现在我们要追溯事实,探索真相。
大数据是当今一个最热门的话题,我们每一个人都无法置身其外。就像几年前出现的云计算一样,大数据已经引起市场的广泛关注;同样,企业迫切需要对大数据下定义。大数据缺少一个标准且普及性的定义,至少不像NIST 对云的定义那样,能被人们广泛接受。
调研公司IDC 的定义可能比较容易被人们所接受。它对大数据的定义是:一种新一代的技术和架构,具备高效率的捕捉、发现和分析能力,能够经济地从类型繁杂、数量庞大的数据中挖掘出色价值。
大数据已经成为各类大会的重要议题,管理人士们都不愿错过这一新兴趋势。毫无疑问,当未来企业尝试分析现有海量信息以推动业务价值增值时,必定会采用大数据技术。
另一方面,正如其它新兴趋势一样,也有很多人怀疑大数据的效用。事实上,当一种技术成为广泛争论的焦点时,必定会招致一些质疑和批评。
关于大数据的重要价值有两种截然不同的观点。不过双方的共同之处在于,两种观点都对大数据存在一些误解,并对大数据的本质模糊不清。
误解
误解1:大数据仅意味着数量庞大
大数据的名称本身就带有误导性,好像数据库的大小就是问题所在。但是这并非唯一的因素。英特尔欧洲、中东与非洲地区(EMEA)战略市场推广总 监Alan Priestley 认为,大数据还有其它要素,最明显的是数据类型繁杂,且数据要求快速交付。此外,企业还需要第一时间了解数据是否准确。
误解2:社交媒体最重要
很多关于大数据的讨论都集中在社交媒体数据对企业的影响。人们持有这种观点并不难理解:多数媒体的关注重点是获取客户最新信息这一传统业务。而现 在,则意味着查找社交媒体互动,诸Twitter、Facebook、Insta-gram 等等。 但是,Priestley指出,企业最常见的还是机器生成的数据,包括网络日志、数据中心日志以及其它信息等。
他表示:如今航空业也可以借助大数据的强大力量。例如,他们可以利用并分析航空旅行
数据以预测可能存在的问题。而在过去,他们只能在数小时的飞行或发生故障之后检查引擎。谁也不希望故障发生,但要是等到故障发生以后才检查引擎,就已经太晚了。 借助大数据分析,他们可以跟踪引擎的振动。通过检查生成的数据,他们能够在数据发现异常时及时发出告警,安排检查引擎。
作为示例,Priestley还介绍了宝马公司是如何成功利用大数据的。宝马公司的大量汽车均可以通过3G技术接入互联网。通过使用大数据和相关分析能 力,宝马公司可以跟踪这些汽车并联系车主。当然,相关示例还有很多,例如信用卡公司可以实时核对诈骗交易,确保远程购买交易合法,而所有这些操作仅需数秒 钟。英特尔自身也是大数据技术的重要用户。公司使用大数据控制晶圆制造工厂的效益,大幅地降低了成本,减少浪费。
误解3:大数据就是Hadoop
很多大数据的讨论都集中在Hadoop。Apache项目的知名度当然最高,它也是首个能够分析并存储非结构化数据,以从中获取价值的工具。但是, 它并不是唯一的工具。Priestley表示:有人认为只要开始使用Hadoop就万事无忧了,其实不然,传统数据仓库依然有存在的空间。人们需要保留 现有的IT基础设施。
Priestley 指出Hadoop 的吸引力在于,企业只需比较小的开销就可以获得大量信息。他补充说:你可以在Apache 下载Hadoop,它是一款免费软件并可在标准服务器上运行。其它替代方案就是购买Oracle或Teradata 等公司的集成解决方案。但对于很多企业而言,这可能不是一个可行的选择,除非他们能够充分意识到通过分析数据可获得的优势。
误解4:希望量化投资回报(ROI)
企业都喜欢硬性数字。首席信息官(CIO)一般喜欢这样说:迁移至大数据的成本是 X,将能够在三年内节省Y。事实上,大数据并非如此。从大数据计划中获得清晰的投资回报(ROI)是非常难的。正如Priestley 指出的,大量的大数据实施是假设信息,很难界定。
客户关系管理(CRM)等对企业的影响可以快速测量得出。但与此不同的是,计划采用大数据的企业必须接受这一差别。此外,企业针对重大项目的投资回 报(ROI)的思维方式也似乎正在发生变化。以前企业认为ROI始终是一种可以轻松测量的有形资产,并且业务优势必定会超过支出成本。但现在情况开始有所 转变。
最近,Claranet针对企业的云迁移方式进行了一项调查。调查结果表明,超过四分之一的受访者视ROI为决策因素之一,而79%的受访者认为 ROI计算并不能真实反映业务优势。虽然该调查主要针对云迁移,但是由此可以合理推测,大数据迁移的情形也不会有太大差别。这二者均代表着一次未来的技术 飞跃。
误解5:结果不可保证
大数据是个未知数。您正在做的就是分析无法估量、难以确定的数字。从本质上来说,大数据是不容易理解或者是抽象的。否则,您也就无需大数据技术了。 因此,企业必须认识到他们无法保证结果的准确性。企业试图获得结果和找到假设的支持数据是徒劳无益的。在上述示例中,航空公司可能希望飞机每50万飞行小 时维护一次,但是如果飞机每20万飞行小时就从空中坠落的话,航空公司的设想就将毫无意义。
如果说人们对大数据存在一些误解,那么,有关大数据的一些关键事实则需要不太看好大数据的企业去认真理解。
关键事实
关键事实1:需要不同技能
多数观察家都认同数据科学家短缺这一点。麦肯锡公司预测,到2019年,全球将缺少高达19万可处理大数据的科学家。原因不难发现。处理大数据项目需要完全不同于处理现有数据仓库实施的技能。而且它还不仅仅限于数据处理,还要求能够将数据转换为可执行的建议。
Hadoop 中有一个称为Map Reduce 的工具。它需要Java 编程技能,而这并不是当今很多数据分析师具有的技能。Priestley举例说到。而事情还不止如此。处理大数据的理想人员还需要了解业务流程、Java和统计知识,甚至还可能需要一些SQL技能。这是个大问题,因此很多人也认为数据科学家的短缺将成为大数据技术采用的一个重要阻碍。
关键事实2:明确您的目标
虽然企业不应当试图探究确定的结果,但是他们应当明确企业目标,一个需要实现的目标。例如,大数据可提高绩效的途径之一是收集更加准确的信息,包括个人数据、客户行为和购买决策等。
麦肯锡公司发现,数字之大令人震惊。这家企业咨询公司声称,如果美国医疗产业采用大数据,全美医疗费用将削减8%。另外,麦肯锡公司提到,通过减少诈骗诉讼和增加税收,欧洲公共部门在运行效率方面可节省一千亿欧元。
关键事实3:人是推动因素
大数据项目需要有人推动。技术并非关键问题。这不是指那些具有上述数据科学家技能的一些人,而是指那些能提出明确目标与需求,并能执行决策的一些人。
这些人并不需要特殊的管理技能。这些责任可能落在首席财务官(CFO)、首席信息(CIO)\甚至首席执行官(CEO)的肩上,但最终,需要有一个人担 负此重任。正如Priestley所指出的:大数据不仅仅是技术挑战,它还是业务挑战。企业需要了解这一点。对此,使用模式很重要。而在此方面,企业可 以有很多种模式,并以不同方式进行建模。
关键事实4:不仅仅是数据
大数据分析有三大要素:数据本身,数据分析,以及结果的呈现。拥有数据本身并没有实际意义。数据本身就已存在。重要的是如何处理、分析数据并呈现重 要信息,以将数据转变为重要价值。开展大数据项目需要周密规划。最好是从小规模起步,先实施单个项目,然后逐步扩展规模。数据采集之后需要进行详细的结果 分析。
关键事实5:大数据涉及所有人
很多关于大数据的讨论都聚焦在大型组织上,对于这些庞大的官僚机构来说,令人窒息的海量数据已经制约了组织的有效运行。很多率先采用大数据技术的组织都属于这一范畴,不过它们并不是唯一的受益者。
各类企业都希望获得评估隐藏数据并归纳模式的技能。有些小型企业需要处理大量工业数据。例如,FormulaOne设计公司的规模不大,但是管理的数据量十分庞大,因此即使是很小的企业也可以通过在日常工作中使用大数据而获益。
这些公司可能希望超越Excel进行客户分析,寻找客户购买模式。例如,如果您的饭店菜单上曾经有一道特色鱼,但后来取消了。那么当这道菜再次出现 在菜单上可供顾客点用的时候,您就可以使用电子邮件通知之前曾经点过这道菜的所有顾客。或者,如果您是一个酒商,您的库存里有某种葡萄酒正在酿造期,当它 们即将出库时,您可以提醒这种酒的爱好者。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15在机器学习入门领域,“鸢尾花数据集(Iris Dataset)” 是理解 “特征值” 与 “目标值” 的最佳案例 —— 它结构清晰、维度适 ...
2025-10-15在数据驱动的业务场景中,零散的指标(如 “GMV”“复购率”)就像 “散落的零件”,无法支撑系统性决策;而科学的指标体系,则 ...
2025-10-15在神经网络模型设计中,“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少,模型可能 “欠拟合”(无法捕捉数据 ...
2025-10-14在数字化浪潮中,数据分析师已成为企业 “从数据中挖掘价值” 的核心角色 —— 他们既要能从海量数据中提取有效信息,又要能将分 ...
2025-10-14在企业数据驱动的实践中,“指标混乱” 是最常见的痛点:运营部门说 “复购率 15%”,产品部门说 “复购率 8%”,实则是两者对 ...
2025-10-14在手游行业,“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度,更直接决定了后续 ...
2025-10-13分库分表,为何而生? 在信息技术发展的早期阶段,数据量相对较小,业务逻辑也较为简单,单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中,“数据孤岛” 是普遍面临的痛点:用户数据散落在 APP 日志、注册系统、客服记录中,订单数据分散在交易 ...
2025-10-13在数字化时代,用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”,到视频 APP 的 “打开→搜索→观看→收藏”,再到银 ...
2025-10-11在机器学习建模流程中,“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中,未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储,CDA(Certified D ...
2025-10-11在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中,正交试验(Orthogonal Experiment)因 “用少量试验覆盖多因素多水平组合” 的高效性,成为 ...
2025-10-10在企业数据量从 “GB 级” 迈向 “PB 级” 的过程中,“数据混乱” 的痛点逐渐从 “隐性问题” 变为 “显性瓶颈”:各部门数据口 ...
2025-10-10在深度学习中,“模型如何从错误中学习” 是最关键的问题 —— 而损失函数与反向传播正是回答这一问题的核心技术:损失函数负责 ...
2025-10-09本文将从 “检验本质” 切入,拆解两种方法的核心适用条件、场景边界与实战选择逻辑,结合医学、工业、教育领域的案例,让你明确 ...
2025-10-09