京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据建设也要防产能过剩
“大数据”听起来看起来都不陌生,但是真要问起来什么是大数据,大数据该如何运用,或许很多人并不清楚。事实上,大数据就是从看似杂乱、重复、无趣的数据中,根据需要理出一条线索,为解决问题提供靠谱的依据。近日,由省社科联主办的大数据与社会科学理论茶座邀请到了中国工程院院士、中国互联网协会理事长邬贺铨,国家信息中心专家委员会主任宁家骏来济讲授大数据建设的利与弊。

大数据的应用
对于大数据的定义,或许用以下的例子就可以让人有个大致了解。
2013年十一黄金周之前,百度的数据分析师忽然发现网民点击搜索“九寨沟”的流量非常大,到九寨沟“怎么玩”、“住在哪”、“怎么去”成了热点词,点击量突然有一个爆发性的增长。百度的数据分析师不敢怠慢,把数据给国家旅游局、四川旅游局、九寨沟景区等做了通报,提醒对方十一期间,到九寨沟的旅游人数可能有一个爆发性增长,希望相关部门最好做好预案,可是相关部门都没把这当回事。结果,当年的黄金周,去九寨沟旅游的人数真的暴增,而去九寨沟景点的车辆有限,大量的游客滞留在景区外,愤怒的人群制造了许多不愉快的事。
2015年元旦,上海外滩的陈毅广场上,庆祝新年的人群发生了惨烈的踩踏事故。这个事情本来可以避免。实际上,早在新年之前,也就是2014年12月31日晚上,大量的人群开始在外滩聚集准备庆祝新年,而每个人身上携带的手机产生的信号其实早已经作为人群密度的直接数据通过电信部门告知了上海公安局。但由于没有采取相应的措施疏导人群,最终导致了惨剧的发生。
从以上的例子可以看出来,基于网络产生的大量数据,经过分析之后,使得看似毫无关联的事情变得有了关系,之后进行干预并引导其向有利的方向发展。这些有价值的数据,就是大数据的一种体现。
随着科技的发展,互联网、物联网与人们的日常生活越来越紧密,城市人群每天都会通过手机、公交卡、电脑等方式产生各种各样的互动,在网络上留下痕迹,这些数据汇总之后,可以经过分析产生许多有价值的信息。例如韩国首尔有一条酒吧街,年轻人都喜欢在那里玩到很晚。之前的时候,这条街没有深夜运营的公交车,出行只能自驾或者出租车,但是进酒吧都是喝酒的,这就没法自驾,而出租车又很贵,于是市民就要求开通一条夜间运营的线路。可是线路该如何设计才能效率最大化呢?当地相关部门通过分析此前市民从酒吧街离开后打车、网络叫车等的主要目的地,最终得出了一条热点线路,开通了公交,极大地方便了市民出行。对此,宁家骏表示,北京以及国内不少城市在这一点上做得并不好,经常是热点线路挤不上人,有的线路则经常空车,资源利用效率不合理。
再比如,美国的NBA很早就引入了数据化管理,从上世纪80年代开始,NBA就将球员在赛场的表现数据化,经过30多年的积极改进已达到了可辨别每一个球员在场上的弱点,方便教练进行针对性战术安排。“如果把这样的大数据分析应用到中国足球队身上,成绩应该会提高不少。”邬贺铨说。
不要盲目建设
从某种程度上来说,中国是数据资源的大国,因为人口以及网民的数量庞大,每天产生海量的数据,将这些数据加以汇总、分析,可以更加行之有效地治国理政。以医疗数据为例,2008年仅3D 核磁产生的数据就达到100G,这些数据还要被保存50年,如果把所有的医疗数据都加起来的话,肯定也是大数字。不仅如此,中国的医生职业生涯中会看几千个病人,这是美国医生远远不能比的,由此产生的经验和数据也是相当丰富的,一旦利用起来,可以有效地提高医疗水平。但在邬贺铨、宁家骏看来,现在的问题是,数据共享存在不少障碍,数据都存在部门化、利益化的倾向,想要真正无障碍高效利用,任重而道远。
尽管大数据有不少好处,我国也是一个数据资源大国,但是专家并不建议各地盲目上马建设大数据项目。“大数据不等于传统的数据库存建设,大数据需要云计算但大数据建设也不等于云计算中心建设。”宁家骏表示,在将大数据上升为国家战略的过程中,依然要避免出现产能过剩的问题。
宁家骏说:“河北省有三个地方同时报大数据中心建设的项目,分别是廊坊、张北、承德。这其中张北还好说,是因为冬奥会要在那里开,但承德要搞大数据中心就没有必要了。”从之前的相关高科技项目来看,部分地区存在建设项目就是为了圈地、盖房,但真正建设好之后,厂房里可能什么都没有,或者花高价买来了设备却因为缺乏应用而将设备闲置。“这些高科技设备跟手机一样,放上两三年就一分钱不值了。部分地方花钱建设了,什么效益都产生不了,纯粹浪费纳税人的钱。”宁家骏说。
对于山东社科联将要建设大数据中心,宁家骏表示,这个中心不一定真正自己去建设。可以租用山东大学、浪潮等科研、企业的设施,使用自己的数据,将大数据中心的建设实现社会化。但关键还是需要人才的储备。
与国外的差距
2012年奥巴马发布美国的大数据行动计划,中国国务院是以国字头发文件在2015年发布中国的大数据行动计划,两者差三年。这个三年的差距应该放到互联网的发展历史中来看:美国是1969年开始使用互联网,中国则是1994年才进入互联网,从互联网的起步到大数据的行动,中国和美国的差距缩小了很多。从这个意义上说,中国在大数据的问题上有一个好的起步阶段。但是从另一个角度看,美国在大数据方面是有很强大的基础的,大数据涉及到存储、分析、应用等各个方面,甚至包括大数据的硬件产品基本都是美国遥遥领先。就连提供大数据服务的软件也是谷歌、亚马逊、IBM等美国公司。在这里的差距就不是三年了。
在邬贺铨看来,尽管有的中国公司称从谷歌挖了国外顶尖的人才或者团队,但大数据是一个系统技术,仅仅是一两个人或者团队,没法根本改变国内大数据建设的不足。
除此之外,大数据的应用还涉及到网络安全。民航、高铁、银行等如今都在大数据的控制之下,而大数据常采用云计算,其云存储容易成为被攻击目标,用户面临数据泄露和篡改的风险。在这方面,美国的网络安全排世界第一,中国仅排到四十位。同时,大数据由于在全球范围内都处于起步和摸索阶段,非常需要创新的环境作为其发展的支撑,从这一点来说,美国也排在前面,他们从教育开始,小孩的创新就比中国强,我们现在虽然呼吁“万众创新”,但是总体上还是创新不如美国。
不仅如此,美国有很好的法律来保障大数据,中国现在在这一方面欠缺很多。没有法律支撑,连政府部门都不敢开放数据——万一开放了某些金融类数据,搞不好还会被说成存在利益输送。也因为没有相关法律,大数据中涉及到个人的,什么是隐私什么是公开,没有相应的界定,也没有机制来保证利益。“我们跟世界发达国家比起来,在大数据问题差距较大,还需要从多方面发展。”邬贺铨说。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23