
大数据建设也要防产能过剩
“大数据”听起来看起来都不陌生,但是真要问起来什么是大数据,大数据该如何运用,或许很多人并不清楚。事实上,大数据就是从看似杂乱、重复、无趣的数据中,根据需要理出一条线索,为解决问题提供靠谱的依据。近日,由省社科联主办的大数据与社会科学理论茶座邀请到了中国工程院院士、中国互联网协会理事长邬贺铨,国家信息中心专家委员会主任宁家骏来济讲授大数据建设的利与弊。
大数据的应用
对于大数据的定义,或许用以下的例子就可以让人有个大致了解。
2013年十一黄金周之前,百度的数据分析师忽然发现网民点击搜索“九寨沟”的流量非常大,到九寨沟“怎么玩”、“住在哪”、“怎么去”成了热点词,点击量突然有一个爆发性的增长。百度的数据分析师不敢怠慢,把数据给国家旅游局、四川旅游局、九寨沟景区等做了通报,提醒对方十一期间,到九寨沟的旅游人数可能有一个爆发性增长,希望相关部门最好做好预案,可是相关部门都没把这当回事。结果,当年的黄金周,去九寨沟旅游的人数真的暴增,而去九寨沟景点的车辆有限,大量的游客滞留在景区外,愤怒的人群制造了许多不愉快的事。
2015年元旦,上海外滩的陈毅广场上,庆祝新年的人群发生了惨烈的踩踏事故。这个事情本来可以避免。实际上,早在新年之前,也就是2014年12月31日晚上,大量的人群开始在外滩聚集准备庆祝新年,而每个人身上携带的手机产生的信号其实早已经作为人群密度的直接数据通过电信部门告知了上海公安局。但由于没有采取相应的措施疏导人群,最终导致了惨剧的发生。
从以上的例子可以看出来,基于网络产生的大量数据,经过分析之后,使得看似毫无关联的事情变得有了关系,之后进行干预并引导其向有利的方向发展。这些有价值的数据,就是大数据的一种体现。
随着科技的发展,互联网、物联网与人们的日常生活越来越紧密,城市人群每天都会通过手机、公交卡、电脑等方式产生各种各样的互动,在网络上留下痕迹,这些数据汇总之后,可以经过分析产生许多有价值的信息。例如韩国首尔有一条酒吧街,年轻人都喜欢在那里玩到很晚。之前的时候,这条街没有深夜运营的公交车,出行只能自驾或者出租车,但是进酒吧都是喝酒的,这就没法自驾,而出租车又很贵,于是市民就要求开通一条夜间运营的线路。可是线路该如何设计才能效率最大化呢?当地相关部门通过分析此前市民从酒吧街离开后打车、网络叫车等的主要目的地,最终得出了一条热点线路,开通了公交,极大地方便了市民出行。对此,宁家骏表示,北京以及国内不少城市在这一点上做得并不好,经常是热点线路挤不上人,有的线路则经常空车,资源利用效率不合理。
再比如,美国的NBA很早就引入了数据化管理,从上世纪80年代开始,NBA就将球员在赛场的表现数据化,经过30多年的积极改进已达到了可辨别每一个球员在场上的弱点,方便教练进行针对性战术安排。“如果把这样的大数据分析应用到中国足球队身上,成绩应该会提高不少。”邬贺铨说。
不要盲目建设
从某种程度上来说,中国是数据资源的大国,因为人口以及网民的数量庞大,每天产生海量的数据,将这些数据加以汇总、分析,可以更加行之有效地治国理政。以医疗数据为例,2008年仅3D 核磁产生的数据就达到100G,这些数据还要被保存50年,如果把所有的医疗数据都加起来的话,肯定也是大数字。不仅如此,中国的医生职业生涯中会看几千个病人,这是美国医生远远不能比的,由此产生的经验和数据也是相当丰富的,一旦利用起来,可以有效地提高医疗水平。但在邬贺铨、宁家骏看来,现在的问题是,数据共享存在不少障碍,数据都存在部门化、利益化的倾向,想要真正无障碍高效利用,任重而道远。
尽管大数据有不少好处,我国也是一个数据资源大国,但是专家并不建议各地盲目上马建设大数据项目。“大数据不等于传统的数据库存建设,大数据需要云计算但大数据建设也不等于云计算中心建设。”宁家骏表示,在将大数据上升为国家战略的过程中,依然要避免出现产能过剩的问题。
宁家骏说:“河北省有三个地方同时报大数据中心建设的项目,分别是廊坊、张北、承德。这其中张北还好说,是因为冬奥会要在那里开,但承德要搞大数据中心就没有必要了。”从之前的相关高科技项目来看,部分地区存在建设项目就是为了圈地、盖房,但真正建设好之后,厂房里可能什么都没有,或者花高价买来了设备却因为缺乏应用而将设备闲置。“这些高科技设备跟手机一样,放上两三年就一分钱不值了。部分地方花钱建设了,什么效益都产生不了,纯粹浪费纳税人的钱。”宁家骏说。
对于山东社科联将要建设大数据中心,宁家骏表示,这个中心不一定真正自己去建设。可以租用山东大学、浪潮等科研、企业的设施,使用自己的数据,将大数据中心的建设实现社会化。但关键还是需要人才的储备。
与国外的差距
2012年奥巴马发布美国的大数据行动计划,中国国务院是以国字头发文件在2015年发布中国的大数据行动计划,两者差三年。这个三年的差距应该放到互联网的发展历史中来看:美国是1969年开始使用互联网,中国则是1994年才进入互联网,从互联网的起步到大数据的行动,中国和美国的差距缩小了很多。从这个意义上说,中国在大数据的问题上有一个好的起步阶段。但是从另一个角度看,美国在大数据方面是有很强大的基础的,大数据涉及到存储、分析、应用等各个方面,甚至包括大数据的硬件产品基本都是美国遥遥领先。就连提供大数据服务的软件也是谷歌、亚马逊、IBM等美国公司。在这里的差距就不是三年了。
在邬贺铨看来,尽管有的中国公司称从谷歌挖了国外顶尖的人才或者团队,但大数据是一个系统技术,仅仅是一两个人或者团队,没法根本改变国内大数据建设的不足。
除此之外,大数据的应用还涉及到网络安全。民航、高铁、银行等如今都在大数据的控制之下,而大数据常采用云计算,其云存储容易成为被攻击目标,用户面临数据泄露和篡改的风险。在这方面,美国的网络安全排世界第一,中国仅排到四十位。同时,大数据由于在全球范围内都处于起步和摸索阶段,非常需要创新的环境作为其发展的支撑,从这一点来说,美国也排在前面,他们从教育开始,小孩的创新就比中国强,我们现在虽然呼吁“万众创新”,但是总体上还是创新不如美国。
不仅如此,美国有很好的法律来保障大数据,中国现在在这一方面欠缺很多。没有法律支撑,连政府部门都不敢开放数据——万一开放了某些金融类数据,搞不好还会被说成存在利益输送。也因为没有相关法律,大数据中涉及到个人的,什么是隐私什么是公开,没有相应的界定,也没有机制来保证利益。“我们跟世界发达国家比起来,在大数据问题差距较大,还需要从多方面发展。”邬贺铨说。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
基于 Python response.text 的科技新闻数据清洗去噪实践 在通过 Python requests 库的 response.text 获取 API 数据后,原始数据 ...
2025-08-21基于 Python response.text 的科技新闻综述 在 Python 网络爬虫与 API 调用场景中,response.text 是 requests 库发起请求后获取 ...
2025-08-21数据治理新浪潮:CDA 数据分析师的战略价值与驱动逻辑 一、数据治理的多维驱动引擎 在数字经济与人工智能深度融合的时代,数据治 ...
2025-08-21Power BI 热力地图制作指南:从数据准备到实战分析 在数据可视化领域,热力地图凭借 “直观呈现数据密度与分布趋势” 的核心优势 ...
2025-08-20PyTorch 矩阵运算加速库:从原理到实践的全面解析 在深度学习领域,矩阵运算堪称 “计算基石”。无论是卷积神经网络(CNN)中的 ...
2025-08-20数据建模:CDA 数据分析师的核心驱动力 在数字经济浪潮中,数据已成为企业决策的核心资产。CDA(Certified Data Analyst)数据分 ...
2025-08-20KS 曲线不光滑:模型评估的隐形陷阱,从原因到破局的全指南 在分类模型(如风控违约预测、电商用户流失预警、医疗疾病诊断)的评 ...
2025-08-20偏态分布:揭开数据背后的非对称真相,赋能精准决策 在数据分析的世界里,“正态分布” 常被视为 “理想模型”—— 数据围绕均值 ...
2025-08-19CDA 数据分析师:数字化时代的价值创造者与决策智囊 在数据洪流席卷全球的今天,“数据驱动” 已从企业战略口号落地为核心 ...
2025-08-19CDA 数据分析师:善用 Power BI 索引列,提升数据处理与分析效率 在 Power BI 数据分析流程中,“数据准备” 是决定后续分析质量 ...
2025-08-18CDA 数据分析师:巧用 SQL 多个聚合函数,解锁数据多维洞察 在企业数据分析场景中,单一维度的统计(如 “总销售额”“用户总数 ...
2025-08-18CDA 数据分析师:驾驭表格结构数据的核心角色与实践应用 在企业日常数据存储与分析场景中,表格结构数据(如 Excel 表格、数据库 ...
2025-08-18PowerBI 累计曲线制作指南:从 DAX 度量到可视化落地 在业务数据分析中,“累计趋势” 是衡量业务进展的核心视角 —— 无论是 “ ...
2025-08-15Python 函数 return 多个数据:用法、实例与实战技巧 在 Python 编程中,函数是代码复用与逻辑封装的核心载体。多数场景下,我们 ...
2025-08-15CDA 数据分析师:引领商业数据分析体系构建,筑牢企业数据驱动根基 在数字化转型深化的今天,企业对数据的依赖已从 “零散分析” ...
2025-08-15随机森林中特征重要性(Feature Importance)排名解析 在机器学习领域,随机森林因其出色的预测性能和对高维数据的适应性,被广 ...
2025-08-14t 统计量为负数时的分布计算方法与解析 在统计学假设检验中,t 统计量是常用的重要指标,其分布特征直接影响着检验结果的判断。 ...
2025-08-14CDA 数据分析师与业务数据分析步骤 在当今数据驱动的商业世界中,数据分析已成为企业决策和发展的核心驱动力。CDA 数据分析师作 ...
2025-08-14前台流量与后台流量:数据链路中的双重镜像 在商业数据分析体系中,流量数据是洞察用户行为与系统效能的核心依据。前台流量与 ...
2025-08-13商业数据分析体系构建与 CDA 数据分析师的协同赋能 在企业数字化转型的浪潮中,商业数据分析已从 “可选工具” 升级为 “核 ...
2025-08-13