京公网安备 11010802034615号
经营许可证编号:京B2-20210330
悄悄来临的大数据时代
如今,网购已在悄悄改变着人们许多年以来形成的购物方式。对于刚刚过去的11月11日,人们仍记忆犹新,知名电商阿里巴巴通过旗下的天猫和淘宝,将“光棍节”变成“购物狂欢节”。
阿里巴巴是做什么的?很多人会说“电子商务”。但如果看电商交易的实质,实际上是“海量的信息和数据服务”——一句话,阿里巴巴的所作所为符合“大数据时代”的潮流特征。
继“物联网”、“云计算”之后,进入2012年,“大数据”一词被越来越多地提及。人们用它来描述、定义信息爆炸时代产生的海量数据,并命名与之相关的技术发展与创新。
“大数据并非突然产生的,实际上,IBM、谷歌和亚马逊等大企业早已开始利用它。这个概念之所以能够为更多行业所认知,还是因为人们越发看重它的应用。”中国工程院院士、工信部通信科技委主任邬贺铨表示。
“大数据时代”已经来临
最早提出“大数据”时代到来的是管理咨询公司麦肯锡:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”
什么是大数据?邬贺铨引用了维基百科的定义:没有办法在允许的时间里用常规的软件工具对内容进行抓取、管理和处理的数据集合。“当然,大数据规模的标准是持续变化的,当前泛指单一数据集的大小在几十个TB(万亿字节)和几个PB(千万亿字节)之间。”
大数据到底有多大?以下这组“互联网上一天”的数据告诉我们:一天之中,百度大约要处理60亿次搜索请求,达到几十PB数据;淘宝网站的交易达数千万笔,单日数据量超过20TB;联通的用户上网记录一天达到10TB……
“如果说第三次工业革命有各种各样的标记,那么信息技术发展到今天,大数据也是其中的一个标记。”邬贺铨评价道。
大数据虽然孕育于信息通信技术的日渐普遍和成熟,但各行各业的有识之士认为,它对社会经济生活产生的影响绝不仅限于技术层面。
挖掘“数据财富”
当你仍把微博等社交平台当作抒情或者大发议论的工具时,一些商界精英却正在挖掘“数据财富”,先人一步用其判断市场走势,从中获得了不菲的收益。
通过分析网民的情感数据,社交媒体监测平台DataSift发现,社交网站脸谱(Facebook)申请上市发行股票的当天,微博推特(Twitter)上的情感倾向与Facebook股价波动基本上呈正相关:在Facebook开盘前,如果Twitter上的情感逐渐转向负面,25分钟之后Facebook的股价便开始下跌;而当Twitter上的情感转向正面时,Facebook股价在8分钟后也随之回弹……当然,仅凭这些并不能证明Twitter的情感倾向会对股价产生影响,不过确实已经有人试图据此发现预测股价走势的方法。
大数据的影响并不仅限于信息通信产业,它还在“吞噬”、重构一些传统行业——从这个意义上讲,广泛运用数据分析手段管理和优化运营的公司其实质都是一个数据公司。
邬贺铨举了个有趣的例子。美国target超市将女性顾客中的孕妇视作购物的黄金消费者。为了将这部分目标人群在怀孕前就争取过来,该超市通过调查罗列出几十种购物偏好,当某位顾客的收银条上集中呈现这类商品时,就会被认定为可能是孕妇或家中有孕妇,并随后向其发送孕妇产品广告。一次,当有人以“家中并无孕妇却总是收到相关产品广告”为由控告这家超市后,却发现原来是自己还在上高中的女儿怀孕了。“这个例子告诉我们,利用购物信息这个大数据,商家可以进一步分析、细分购物群体,从而提升销售额。”
此外,利用搜索关键词,疾控部门可以预测、判断某地流感暴发情况;通过关注社交网络上“糖友”的交流与感悟,医院和医生可以获得更好的糖尿病诊疗和康复经验……据邬贺铨介绍,不仅在商业方面,大数据在电网运营、交通管控、医疗服务等社会领域同样存在着巨大的利用空间。
拿什么迎接“大数据时代”
如何利用这些大数据,从而开发出其中的商业价值,已经成为投资者、IT界人士以及政府公共管理部门普遍关心的问题。
2012年3月29日,美国政府宣布投资两亿美元拉动大数据相关产业发展,将“大数据战略”上升为国家意志。
最积极的当属众多IT企业。IBM提出,继上一个十年抛弃私人电脑业务成功转向软件和服务后,这次将更多地专注于大数据分析软件带来的全新业务增长点。此外,有关“大数据”主题的并购案层出不穷,并购数量和规模都呈逐步上升态势。其中,Oracle对Sun、惠普对Autonomy两大并购案总金额高达176亿美元。
当众多国外企业竞相追逐大数据带来的产业价值时,还鲜有一家中国公司能够跻身大数据开发的领先行列。
邬贺铨表示,虽然现在国家从科技项目上开始重视大数据,安排了一些研究,但感觉整体差距还很大。“这并非一些简单的科技项目就能解决的,应该鼓励拥有资源和能力的企业、部门去开发大数据,因为他们才是真正的应用需求者,才是牵引技术的最重要力量。”
为了缩小在这场时代竞争中的“起跑”差距,政府的主导作用显得尤为重要。
“除特殊情况外(例如涉及国家机密和安全),政府部门应该尽可能及时地发布、公开信息,鼓励数据共享,帮助需求主体了解各行各业的整体情况。”邬贺铨认为,我国目前的状况不是数据收集太少,而是共享太少。“拥有数据的部门没有能力去分析,有分析能力的部门没有数据,各部门之间缺少协调合作,这实际上涉及一个体制问题。”
此外,拥有数据的企业或部门不知如何在保护好用户隐私与安全的情况下使用大数据,也是妨碍我国紧跟“大数据时代”的一大羁绊。
既然收集、整理、存储大数据的门槛这么高,为什么不利用国外的平台去做点什么?对此,邬贺铨特别提示,国内企业和相关部门要避免将自己的重要数据放到国外的分析应用平台。“这些看似无关的数据,其实都跟企业发展策略、国家经济运行状况相关,我们不能因为国外的东西免费好用而失去了对信息安全的警觉。”
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在使用Excel透视表进行数据汇总分析时,我们常遇到“需通过两个字段相乘得到关键指标”的场景——比如“单价×数量=金额”“销量 ...
2025-11-14在测试环境搭建、数据验证等场景中,经常需要将UAT(用户验收测试)环境的表数据同步到SIT(系统集成测试)环境,且两者表结构完 ...
2025-11-14在数据驱动的企业中,常有这样的困境:分析师提交的“万字数据报告”被束之高阁,而一张简洁的“复购率趋势图+核心策略标注”却 ...
2025-11-14在实证研究中,层次回归分析是探究“不同变量组对因变量的增量解释力”的核心方法——通过分步骤引入自变量(如先引入人口统计学 ...
2025-11-13在实时数据分析、实时业务监控等场景中,“数据新鲜度”直接决定业务价值——当电商平台需要实时统计秒杀订单量、金融系统需要实 ...
2025-11-13在数据量爆炸式增长的今天,企业对数据分析的需求已从“有没有”升级为“好不好”——不少团队陷入“数据堆砌却无洞察”“分析结 ...
2025-11-13在主成分分析(PCA)、因子分析等降维方法中,“成分得分系数矩阵” 与 “载荷矩阵” 是两个高频出现但极易混淆的核心矩阵 —— ...
2025-11-12大数据早已不是单纯的技术概念,而是渗透各行业的核心生产力。但同样是拥抱大数据,零售企业的推荐系统、制造企业的设备维护、金 ...
2025-11-12在数据驱动的时代,“数据分析” 已成为企业决策的核心支撑,但很多人对其认知仍停留在 “用 Excel 做报表”“写 SQL 查数据” ...
2025-11-12金融统计不是单纯的 “数据计算”,而是贯穿金融业务全流程的 “风险量化工具”—— 从信贷审批中的客户风险评估,到投资组合的 ...
2025-11-11这个问题很有实战价值,mtcars 数据集是多元线性回归的经典案例,通过它能清晰展现 “多变量影响分析” 的核心逻辑。核心结论是 ...
2025-11-11在数据驱动成为企业核心竞争力的今天,“不知道要什么数据”“分析结果用不上” 是企业的普遍困境 —— 业务部门说 “要提升销量 ...
2025-11-11在大模型(如 Transformer、CNN、多层感知机)的结构设计中,“每层神经元个数” 是决定模型性能与效率的关键参数 —— 个数过少 ...
2025-11-10形成购买决策的四个核心推动力的是:内在需求驱动、产品价值感知、社会环境影响、场景便捷性—— 它们从 “为什么买”“值得买吗 ...
2025-11-10在数字经济时代,“数字化转型” 已从企业的 “可选动作” 变为 “生存必需”。然而,多数企业的转型仍停留在 “上线系统、收集 ...
2025-11-10在数据分析与建模中,“显性特征”(如用户年龄、订单金额、商品类别)是直接可获取的基础数据,但真正驱动业务突破的往往是 “ ...
2025-11-07在大模型(LLM)商业化落地过程中,“结果稳定性” 是比 “单次输出质量” 更关键的指标 —— 对客服对话而言,相同问题需给出一 ...
2025-11-07在数据驱动与合规监管双重压力下,企业数据安全已从 “技术防护” 升级为 “战略刚需”—— 既要应对《个人信息保护法》《数据安 ...
2025-11-07在机器学习领域,“分类模型” 是解决 “类别预测” 问题的核心工具 —— 从 “垃圾邮件识别(是 / 否)” 到 “疾病诊断(良性 ...
2025-11-06在数据分析中,面对 “性别与购物偏好”“年龄段与消费频次”“职业与 APP 使用习惯” 这类成对的分类变量,我们常常需要回答: ...
2025-11-06