京公网安备 11010802034615号
经营许可证编号:京B2-20210330
告别大数据 掌握“广数据”才是关键
大数据的概念确实有点歧义。当然,来自网络、电话、和其他数据源的信息确实数据量很大,但数据的主要价值并不在规模中。要从大数据中获取真正的商业价值,用户和BI供应商等还需要关注对广泛来源的数据的集成和分析,简言之,就是广数据。
未来商业的成功,依赖于大数据和企业主流数据系统中的数据能否有机地结合。很多供应商开发了很多技术来实现,比如在NoSQL数据库和Hadoop资源池上实现SQL查询。这种技术趋势很利于行业发展,因为新技术和老技术终究要结合起来。
对于管理大量非结构化数据来说,Hadoop是个好东西,但要实现精益分析,尤其是针对既有结构化数据、又有非结构化数据的数据结构时,Hadoop就显得力不从心了。另一方面,传统关系型数据库在利用几乎同一调用方式访问异构数据源方面,有着悠久的历史。而且从事数据分析的技术人员更熟悉的也是SQL语言。
另外,大多数用户想要的都是技术上的稳步革新,而不是彻底的变革。这意味着企业在采用新技术的同时,要最大限度地使其能够和现有IT生态系统融合,保护历史资产。因此,Hadoop集群、NoSQL数据库中的信息需要和传统的数据库和数据仓库的数据有效集成,这样才能更好地构建客户、市场趋势、企业运营视图。比如社交媒体的客户情感数据固然有价值,但如何不能和其他客户数据、市场数据相联,反应的情况也是片面的。
物联网数据不能孤立
物联网(IoT)也是大数据的重要数据源之一。安装在产品和机器设备上的传感器可以捕捉数据,并通过互联网将数据发送回运营系统。物联网大多应用于大型制造业,比如石油管道的远程传感器监控,卡车、货车等车辆的维护相关信息收集。
物联网的作用很大。传感器发回的大量信息可以帮助用户更好地监控质量问题、了解地域差异等等。物联网数据增长迅猛,随着时间的发展,很可能会差多Web数据。但同样,如果只是狭义地关注物联网数据,没有把它和众多其他数据源的数据集成,企业会错过很多有价值的信息。
数据仓库的潜力还没有完全发挥出来。一个主要的原因就是数据仓库很难利用实时数据。另一方面看,数据仓库处理的多是历史数据等变化缓慢的数据,处理这些数据根本不需要像处理实时数据一样。因此,好的BI和分析平台应该是既能处理历史数据,又能处理实时数据。将数据仓库和大数据技术结合起来,可以考虑内存处理。
下一代大数据技术应该解决的难题
更广义来看,大数据还应包括数据的流动,即数据从数据源产生到交到用户手里的过程。很多专家责难企业数据仓库没有“单一真相”,同样的数据产生出五花八门的分析结果,以及难以实现有效的数据治理。
现在,移动设备和自服务BI工具极大地改变了信息的传播范围。当数据进入移动设备,你很难监管它的传播。都有谁看了该信息?信息传播的轨迹是怎样的?有效的BI和大数据管理不只是收集和处理信息,也是管理信息的流通和传播。
数据规模确实是一个技术难题,但核心的问题在于广数据。如何将多种数据源的数据集成起来,如何处理,再如何让广大的用户用于业务决策和分析,这才是技术应该最主要关注的问题。要做到支持广泛的数据环境,供应商需要关注这些问题:
提供结构化数据和非结构化数据的访问,并能有效集成能够以不同的方式有效管理不同的数据集支持强大的数据治理模型
下一代BI和大数据技术必须能够解决数据的广度和复杂度的问题,而不仅仅是数据量。大数据不仅仅是数据量的大,更包含数据的广泛性。用户和供应商最好能在这一点上达成共识。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27数据分析的基础范式,是支撑数据工作从“零散操作”走向“标准化落地”的核心方法论框架,它定义了数据分析的核心逻辑、流程与目 ...
2026-01-27在数据分析、后端开发、业务运维等工作中,SQL语句是操作数据库的核心工具。面对复杂的表结构、多表关联逻辑及灵活的查询需求, ...
2026-01-26支持向量机(SVM)作为机器学习中经典的分类算法,凭借其在小样本、高维数据场景下的优异泛化能力,被广泛应用于图像识别、文本 ...
2026-01-26在数字化浪潮下,数据分析已成为企业决策的核心支撑,而CDA数据分析师作为标准化、专业化的数据人才代表,正逐步成为连接数据资 ...
2026-01-26数据分析的核心价值在于用数据驱动决策,而指标作为数据的“载体”,其选取的合理性直接决定分析结果的有效性。选对指标能精准定 ...
2026-01-23在MySQL查询编写中,我们习惯按“SELECT → FROM → WHERE → ORDER BY”的语法顺序组织语句,直觉上认为代码顺序即执行顺序。但 ...
2026-01-23数字化转型已从企业“可选项”升级为“必答题”,其核心本质是通过数据驱动业务重构、流程优化与模式创新,实现从传统运营向智能 ...
2026-01-23CDA持证人已遍布在世界范围各行各业,包括世界500强企业、顶尖科技独角兽、大型金融机构、国企事业单位、国家行政机关等等,“CDA数据分析师”人才队伍遵守着CDA职业道德准则,发挥着专业技能,已成为支撑科技发展的核心力量。 ...
2026-01-22在数字化时代,企业积累的海量数据如同散落的珍珠,而数据模型就是串联这些珍珠的线——它并非简单的数据集合,而是对现实业务场 ...
2026-01-22在数字化运营场景中,用户每一次点击、浏览、交互都构成了行为轨迹,这些轨迹交织成海量的用户行为路径。但并非所有路径都具备业 ...
2026-01-22在数字化时代,企业数据资产的价值持续攀升,数据安全已从“合规底线”升级为“生存红线”。企业数据安全管理方法论以“战略引领 ...
2026-01-22在SQL数据分析与业务查询中,日期数据是高频处理对象——订单创建时间、用户注册日期、数据统计周期等场景,都需对日期进行格式 ...
2026-01-21在实际业务数据分析中,单一数据表往往无法满足需求——用户信息存储在用户表、消费记录在订单表、商品详情在商品表,想要挖掘“ ...
2026-01-21在数字化转型浪潮中,企业数据已从“辅助资源”升级为“核心资产”,而高效的数据管理则是释放数据价值的前提。企业数据管理方法 ...
2026-01-21在数字化商业环境中,数据已成为企业优化运营、抢占市场、规避风险的核心资产。但商业数据分析绝非“堆砌数据、生成报表”的简单 ...
2026-01-20