京公网安备 11010802034615号
经营许可证编号:京B2-20210330
企业致力于收集和存储大量数据,但通常只分析其中的一小部分。他们发现数据是新的货币,因为数据中隐藏着很多价值。他们正在利用数据科学和大数据分析工具从其“数据宝库”中提取价值。这有助于他们进行数字化转型。一些组织在这方面取得了巨大的成功,并不断创新、获得市场份额、增加价值(例如Amazon、谷歌、Facebook等公司),而其他公司也在努力效仿。
麦肯锡全球研究院于2011年5月发表了一篇开创性论文,名为“大数据:创新,竞争和生产力的下一个前沿”,使得大数据和分析开始引起人们的关注。根据谷歌公司的趋势分析(它提高了人们对关键词的搜索兴趣),大数据和分析热潮在2016年6月达到了顶峰。而云计算一直持续受到人们的高度关注,因为越来越多的企业继续实施云计算技术,以提高业务灵活性、运营弹性、改进性能,以及更高的效率。
数字化转型需要在组织层面上发挥作用,并将成为一种永久的运营方式。
人们可能会想知道,在大数据和分析达到发展顶峰之后将会变成什么样子。只要所公布的客户调查、供应商利益、分析师报告、收入来源等资料具有价值,那么企业都将采用大数据和分析来获取。调研机构Gartner公司2016年进行的一项调查报告表明,在过去五年中,企业对大数据和分析的投资一直在不断增长,但对其未来投资的兴趣似乎有所下降。这可能是由于这些投资获得实际收益的一种停顿。而Gartner公司的另一份调查报告显示,只有大约12%的大数据项目取得了可衡量的成果。然而,社交媒体、物联网(IoT)、智能手机、移动设备、游戏装备、可穿戴设备、传感器、无人机、远程监控器、精密医疗、精准农业、智能城市、智能建筑、自动驾驶汽车、远程控制车辆等技术将产生大量需要收集、汇总和分析的数据,以做出有用且有价值的决策。
而使用传统方法和系统来人工分析数据是不可能的。来自大数据和分析的潜在价值每年达到数十亿美元。这被认为是一个保守的估计。因为麦肯锡公司2011年进行的调查报告仅仅占据了大数据潜在价值的一小部分。只有基于位置的数据的采用率和价值捕获率高达50%-60%,其次是美国零售业,达到30%-40%,制造业占20%-30%,美国医疗保健行业为10%-20%,欧盟公共部门为10%-20%。因此,大数据和分析的兴趣和投资在几乎所有行业都会增加,以捕捉大数据中隐藏的价值。预计在未来几年中企业对云计算的大数据会持续产生兴趣。
数据安全
随着越来越多的数据被收集、汇总、分析,并用于做出影响人们生活的决策,数据安全性成为人们最为关切的问题。数据治理需要处理从不同来源收集的数据高峰以及管理这些数据元素所涉及的风险的中心阶段。美国联邦、州、市和地方政府机构以及其他非营利性公共服务组织需要符合严格的保密性、完整性和可用性(CIA)规则,并且还要提供良好的治理、满足合规要求和管理风险(GCR)。
人们一个常见的误解是,组织需要从不同来源收集的大量结构化和非结构化数据,包括外部来源(需要验证和风险评估)来开始分析。企业不需要大量数据来启动分析项目。可以从已有的“黄金标准数据”开始,并考虑单独使用这些数据或将其与其他内部数据集结合使用,以解决业务问题作为向决策者购买的概念证明的可能性。企业可以尝试和分析以前没有查看的不同变量,以确定相关性、因果关系和预测因素,谨慎发现,并避免重合。这是行业领域知识和专业知识发挥作用的地方。利用可用且经济实惠的计算能力、存储和网络容量,企业可以轻松地分析更多数据,以查看隐藏在数据中的模式和概率。基于业务需求,分析可用于描述性、诊断性、预测性、规定性的目的。物联网、传感器、操作技术、设备维护、精密医疗、电网、航运、物流、执法和精准农业正在越来越多地利用上述不同类型的分析来处理一个或多个业务问题,或根据需要来提供解决方案。
大数据的需求
大数据对不同的人意味着不同的事物。不同的IT分析师、商业领袖、顾问、学术研究人员、标准组织已经根据他们的观点定义了大数据,其中包括数量、速度、品种、准确性、复杂性等因素。虽然在大数据方面没有明确的共识,他们现有的能力在人员、过程和技术方面的处理能力太大了。就大数据和分析而言,人员是最难的部分。存在组织惯性、缺乏决策者的支持,以及难以找到正确理解分析的数据和业务领域的数据科学家等问题。同样,大数据分析师也很缺乏。世界各地的许多高校或认证机构都在提供数据科学和分析方面的新课程,以满足日益增长的需求。
由于大数据领域是新兴行业,很难找到适合的专家,因此所谓的“大数据专家或数据科学家”被金融交易、银行、信用评级机构,以及信用卡公司等大型金融组织所吸引。此外,谷歌、Facebook、LinkedIn、雅虎、微软、亚马逊等行业巨头也求贤若渴,因为他们为这些人才提供了丰厚的薪酬、股票期权,以及更好的发展前景。在争夺同样的人才方面,美国的联邦、州、市和地方政府以及非营利组织都处于劣势。但是,一些具有深谋远虑的政府组织已经成功招募了一些优秀的大数据科学家。
克服人才短缺的挑战
为了克服数据科学家短缺的挑战,许多企业正在建立一个数据科学团队,其中包括具有大数据分析方面知识和专业知识的人员,以及行业专家,例如IT和业务领域。他们可以一起补充彼此的专业知识,互相协作并提出业务问题的解决方案。一个成功的大数据分析团队的一个重要特征是能够用商业术语讲述故事,并实现数据可视化,而这些数据可视化只需要很少的解释。这是一项非常特殊的技能,需要销售技能来完成交易。这些能力有助于建立数据科学团队或大数据和分析团队的可信度,以获得高级管理人员的支持,并将分析从一个业务领域扩展到另一个业务领域,并最终扩展到整个组织或企业。这些人员则是“翻译者”,他们可以从数据分析中获得结果,并将其置于商业术语中,以便企业能够理解和适应。数字化转型需要在组织层面上发挥作用,并成为一种永久的运营方式。大数据和分析是私营或公共企业数字化转型的一个组成部分。因此,许多组织开始了数字化转型之旅,通过分析释放隐藏在大数据中的价值。今后将会有更多的组织效仿跟随。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中,LSTM(长短期记忆网络)凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑:用 ...
2025-12-01引言:数据时代的“透视镜”与“掘金者” 在数字经济浪潮下,数据已成为企业决策的核心资产,而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27