
大数据与实体经济融合的路径
大数据理念已经深入人心,“用数据说话”的已经成为所有人的共识,数据成了堪比石油、黄金、钻石的战略资源。人们对大数据的认识也更加具体化,数据无所谓大不大,有用最重要;数据是基础,但分析挖掘和应用才是根本。
不仅对大数据的认识经历了螺旋上升,而且实践逐渐落地,国内的大数据产业政策日渐完善,技术、应用和产业都取得了非常明显的进展。
1.政策持续完善。在顶层设计上,国务院《促进大数据发展行动纲要》对政务数据共享开放、产业发展和安全三方面做了总体部署。数据开放共享方面的《政务信息资源共享管理暂行办法》、产业方面的工信部《大数据产业发展规划(2016-2020)》、数据安全方面的《中华人民共和国网络安全法》等也都已出台。卫计、农业、检察、税务等部门还出台了领域大数据发展的具体政策。此外,17个省市发布大数据发展规划,十几个省市设立了大数据管理局,8个国家大数据综合试验区、11个国家工程实验室启动建设。可以说,适应大数据发展的政策环境已经初步形成。
2.技术稳步提升。开源给国内产业界提供了一个跳板,让我们与国际上大数据技术先进水平的差距在不断缩小。2014-2016年,百度、阿里和腾讯先后拿下国际上知名的Sort
Benchmark大赛冠军。这个竞赛全面比拼分布式系统软件架构能力,包括如海量数据分布式存储、计算任务切片调度、节点通信协调同步、数据计算监控、硬件架构等方面的能力。而这一赛事2014年之前的冠军均被微软、Yahoo、亚马逊等包揽。这从一个侧面反映了我国产业界在大大数据处理技术水平的快速提升。与此同时,还有像一批国产化的商用大数据平台产品崛起,底层技术越来越扎实。
3.应用逐渐落地。比如,在金融领域,2016年商业银行全面部署大数据基础设施,五大国有银行、股份制、城商行和农商行已经逐步开始了从传统数据仓库架构向大数据平台架构的转型改造过程,基于大数据风控的“秒贷”业务越来越普及,不仅提升了贷款效率,还扩大的普惠金融的覆盖面。在电信领域,中国电信的大数据平台已经扩展到31个省,汇聚了全国的基础数据形成了“天翼大数据”服务能力;中国联通也实现了数据整合,大数据产品体系已经推出征信、指数、营销等六大产品种类。
4.产业快速崛起。围绕数据的产生、汇聚、处理、应用等环节的产业生态从无到有,不断壮大。中国信息通信研究院发布的《中国大数据产业调查报告(2017年)》显示,2016年中国大数据核心产业(软件、硬件及服务)的市场规模为168亿元,较2015年增速达45%,预计到2020年将达到578亿元。2016年获得融资的企业数量达到400多家,2017年前三个月就有150多家企业获得融资,其中半数为中国公司,资本源源不断的投向大数据领域。
大数据,代表了一种现象,即:数据的指数增长超过了人们管理、处理和应用数据的能力的增长,产生了一个“剪刀差”,而且这个“剪刀差”无疑将长期存在。无论是对一个国家还是一个企业,谁能在缩小大数据剪刀差上拔得头筹,把数据用好,就能占有竞争优势。
发展大数据前景还很广阔,还有很多问题(机遇)等着解决(捕获),比如:
1.打破数据孤岛。人人都想要别人的数据,但都不愿意把自己的数据给别人,这是人的天性。以前信息系统建设都从一个个“烟囱”开始,数据缺乏互通的技术基础,这却是“人祸”。从国家层面到企业内部,情况大同小异。麦肯锡2016年底的一份报告显示,大数据在很多领域没有达到预期效果,很重要的原因就是数据割裂。这些年,推动数据开放共享的政策举措在一直在加强,政策已经很给力了,但效果与预期相差甚远,碰到了瓶颈。开放共享政策再往前“推”,仿佛遇到一堵高高的墙,这时就需要技术“拉”一把。的确,这些年数据共享技术供应有些滞后了。
未来,如果同态加密(homomorphic encryption)、差分隐私(differential
privacy)、多方安全计算(secure multi-party computation)、零知识证明(zero-knowledge
proof)等技术能取得突破,数据共享就能再前进一大步。区块链的共享账本、集体维护、难以篡改特性,也有望能助推数据共享。
2.数据资产管理。数据分析工作,往往有80%的时间和精力都耗费在搜集、清洗和加工数据上。数据质量不过关,也会让数据分析效果大打折扣,甚至让分析结果谬以千里。很多单位大数据应用效果不佳,多半问题出在数据管理上。大家都同意把数据当做资产,甚至认为有朝一日数据会计入资产负债表。但如果对比桌椅板凳这些实物资产,我们对数据资产的管理,还处于非常原始的阶段。我们往往对自己的数据资产有哪些、有多少都不两眼一抹黑,更别说数据质量、数据安全、资产评估、资产交换交易等精细管理、价值挖掘和持续运营了。
然而,数据资产管理不像数据分析挖掘那么光鲜亮丽,就像城市的“下水道工程”,短期只有投入看不见产出。但长期又不得不做,是战略层面的事,当前不做未来返工的成本巨大。以后每个企业都将成为数据驱动的企业,打基础的事情要尽早。
3.深化领域应用。虽然大数据的应用取得了一定进展,在互联网、金融、电信等领域产生了实实在在的效益,医疗、工业领域也正在加速。但总体上只能说刚刚走出了小半步。一类是“平行替代”,如用金融和电信行业用分布式技术(如Hadoop)来重构原来的昂贵的数据仓库。另一类则是“补课”,如政务、医疗、工业等领域,正在做的工作是在原有业务系统之外,新建本来早该建设的数据平台。
这些大数据应用,显然还不够高大上,是物理反应,是量变而非质变,但的确也是发展必经的阶段。随着这些“替代”型或“补课”型应用的深入,未来业务与数据将加深融合,越来越多数据驱动的新模式、新业态值得所有人期待。也只有这样,数据强国战略才能落到实处。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15