京公网安备 11010802034615号
经营许可证编号:京B2-20210330
企业致力于收集和存储大量数据,但通常只分析其中的一小部分。他们发现数据是新的货币,因为数据中隐藏着很多价值。他们正在利用数据科学和大数据分析工具从其“数据宝库”中提取价值。这有助于他们进行数字化转型。一些组织在这方面取得了巨大的成功,并不断创新、获得市场份额、增加价值(例如Amazon、谷歌、Facebook等公司),而其他公司也在努力效仿。
麦肯锡全球研究院于2011年5月发表了一篇开创性论文,名为“大数据:创新,竞争和生产力的下一个前沿”,使得大数据和分析开始引起人们的关注。根据谷歌公司的趋势分析(它提高了人们对关键词的搜索兴趣),大数据和分析热潮在2016年6月达到了顶峰。而云计算一直持续受到人们的高度关注,因为越来越多的企业继续实施云计算技术,以提高业务灵活性、运营弹性、改进性能,以及更高的效率。
数字化转型需要在组织层面上发挥作用,并将成为一种永久的运营方式。
人们可能会想知道,在大数据和分析达到发展顶峰之后将会变成什么样子。只要所公布的客户调查、供应商利益、分析师报告、收入来源等资料具有价值,那么企业都将采用大数据和分析来获取。调研机构Gartner公司2016年进行的一项调查报告表明,在过去五年中,企业对大数据和分析的投资一直在不断增长,但对其未来投资的兴趣似乎有所下降。这可能是由于这些投资获得实际收益的一种停顿。而Gartner公司的另一份调查报告显示,只有大约12%的大数据项目取得了可衡量的成果。然而,社交媒体、物联网(IoT)、智能手机、移动设备、游戏装备、可穿戴设备、传感器、无人机、远程监控器、精密医疗、精准农业、智能城市、智能建筑、自动驾驶汽车、远程控制车辆等技术将产生大量需要收集、汇总和分析的数据,以做出有用且有价值的决策。
而使用传统方法和系统来人工分析数据是不可能的。来自大数据和分析的潜在价值每年达到数十亿美元。这被认为是一个保守的估计。因为麦肯锡公司2011年进行的调查报告仅仅占据了大数据潜在价值的一小部分。只有基于位置的数据的采用率和价值捕获率高达50%-60%,其次是美国零售业,达到30%-40%,制造业占20%-30%,美国医疗保健行业为10%-20%,欧盟公共部门为10%-20%。因此,大数据和分析的兴趣和投资在几乎所有行业都会增加,以捕捉大数据中隐藏的价值。预计在未来几年中企业对云计算的大数据会持续产生兴趣。
数据安全
随着越来越多的数据被收集、汇总、分析,并用于做出影响人们生活的决策,数据安全性成为人们最为关切的问题。数据治理需要处理从不同来源收集的数据高峰以及管理这些数据元素所涉及的风险的中心阶段。美国联邦、州、市和地方政府机构以及其他非营利性公共服务组织需要符合严格的保密性、完整性和可用性(CIA)规则,并且还要提供良好的治理、满足合规要求和管理风险(GCR)。
人们一个常见的误解是,组织需要从不同来源收集的大量结构化和非结构化数据,包括外部来源(需要验证和风险评估)来开始分析。企业不需要大量数据来启动分析项目。可以从已有的“黄金标准数据”开始,并考虑单独使用这些数据或将其与其他内部数据集结合使用,以解决业务问题作为向决策者购买的概念证明的可能性。企业可以尝试和分析以前没有查看的不同变量,以确定相关性、因果关系和预测因素,谨慎发现,并避免重合。这是行业领域知识和专业知识发挥作用的地方。利用可用且经济实惠的计算能力、存储和网络容量,企业可以轻松地分析更多数据,以查看隐藏在数据中的模式和概率。基于业务需求,分析可用于描述性、诊断性、预测性、规定性的目的。物联网、传感器、操作技术、设备维护、精密医疗、电网、航运、物流、执法和精准农业正在越来越多地利用上述不同类型的分析来处理一个或多个业务问题,或根据需要来提供解决方案。
大数据的需求
大数据对不同的人意味着不同的事物。不同的IT分析师、商业领袖、顾问、学术研究人员、标准组织已经根据他们的观点定义了大数据,其中包括数量、速度、品种、准确性、复杂性等因素。虽然在大数据方面没有明确的共识,他们现有的能力在人员、过程和技术方面的处理能力太大了。就大数据和分析而言,人员是最难的部分。存在组织惯性、缺乏决策者的支持,以及难以找到正确理解分析的数据和业务领域的数据科学家等问题。同样,大数据分析师也很缺乏。世界各地的许多高校或认证机构都在提供数据科学和分析方面的新课程,以满足日益增长的需求。
由于大数据领域是新兴行业,很难找到适合的专家,因此所谓的“大数据专家或数据科学家”被金融交易、银行、信用评级机构,以及信用卡公司等大型金融组织所吸引。此外,谷歌、Facebook、LinkedIn、雅虎、微软、亚马逊等行业巨头也求贤若渴,因为他们为这些人才提供了丰厚的薪酬、股票期权,以及更好的发展前景。在争夺同样的人才方面,美国的联邦、州、市和地方政府以及非营利组织都处于劣势。但是,一些具有深谋远虑的政府组织已经成功招募了一些优秀的大数据科学家。
克服人才短缺的挑战
为了克服数据科学家短缺的挑战,许多企业正在建立一个数据科学团队,其中包括具有大数据分析方面知识和专业知识的人员,以及行业专家,例如IT和业务领域。他们可以一起补充彼此的专业知识,互相协作并提出业务问题的解决方案。一个成功的大数据分析团队的一个重要特征是能够用商业术语讲述故事,并实现数据可视化,而这些数据可视化只需要很少的解释。这是一项非常特殊的技能,需要销售技能来完成交易。这些能力有助于建立数据科学团队或大数据和分析团队的可信度,以获得高级管理人员的支持,并将分析从一个业务领域扩展到另一个业务领域,并最终扩展到整个组织或企业。这些人员则是“翻译者”,他们可以从数据分析中获得结果,并将其置于商业术语中,以便企业能够理解和适应。数字化转型需要在组织层面上发挥作用,并成为一种永久的运营方式。大数据和分析是私营或公共企业数字化转型的一个组成部分。因此,许多组织开始了数字化转型之旅,通过分析释放隐藏在大数据中的价值。今后将会有更多的组织效仿跟随。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15