
大数据将给我们带来什么_数据分析师
大数据的概念,去年才刚刚听到并有所了解;但大数据的话题,从去年开始说到今年,真的就没有停止过。我们说,要积极推进大数据在政府统计中的应用,是因为大数据已经并还将将对政府统计工作带来诸多重大影响。
首先,大数据将对政府统计的唯一性乃至共识性产生极大挑战。政府统计在反映国情国力方面的主体地位,既是法律赋予的,也是客观形成的。因为长期以来,没有任何主体有义务有必要有能力,对经济社会的宏观发展情况进行统计监测。比如商品价格,即使一个企业的规模再大,也只能掌握本企业经营的各种商品或服务的价格,而很难也没有必要把其他的价格信息尽收眼底。但随着大数据时代的到来,政府统计部门不再是唯一的海量数据的拥有者。互联网上每时每刻生成了大量的交易和价格信息。在阿里巴巴公司的淘宝网上,许许多多的店主开了许许多多的网店,经营着许许多多的各种各样的商品。于是,一个综合性的淘宝价格指数就应运而生。虽然商品的种类大大少于我们的CPI,虽然这些商品的价格对市场上全部商品的价格未必有代表性,虽然确定权重的依据也仅仅是来自在这个网上购物的群体及行为,但其毕竟是在一个规模越来越大的总体基础上生成的,毕竟有实时产生的大量基础信息做基础,毕竟有越来越多的人关注、了解和参考这个不断变化着的指数。随着大数据的规模不断扩大,或许会不断应运而生一个又一个“淘宝”指数。政府统计是顺其自然、乐见其成呢,还是因势利导、为我所用呢?我们需要在实践中尽快找到答案。
其次,大数据将对政府统计的生产方式和工作流程产生重要影响。大数据生产的主体不一,来源更日趋多元,不同内容和形式的大数据也标准各异。是让大数据的生产者执行统一标准、或是按统一标准进行加工,还是由政府统计把数据拿来之后再做标准化处理?以普查为基础、抽样调查为主体的政府统计,长期以来都是在通过普查掌握总体的基础上,对一定规模限额以上的单位全额调查,对以下的单位进行抽样。但符合大数据概念的交易记录,无论是成交额、成交量,还是各类商品的价格,都是做为一个总体已经存在的。你拿还是不拿,数据就在那里。我们应该怎样拿、怎样抽呢?虽然统计四大工程实现了一套表联网直报,但各级政府统计机构依然要对本地区的数据质量各负其责。而大数据背景下,总体数据或既包括不同地区数据,但又未必能对各地有代表性。面对这种情况,各级统计机构又当如何分工合作呢?
第三,大数据将对政府统计的信息化建设提出更高的要求。从数据搜集到数据处理,结构化与非结构化、标准统一与标准各异、只面对样本与面对庞大的总体,差异无疑是巨大的,对后者的搜集和处理难度也明显大于前者。大数据既包括结构化数据,但更多的是非结构化数据,如图片、视频、文字。如何将这些非结构化数据进行结构化处理,是政府统计信息化建设中要面对的一个重大课题。而“大数据”顾名思义,最大的特点就是“大”。对每时每刻产生的巨大海量网上交易记录,对每一笔成交的数量、金额、价格,是拿过来再处理,还是处理了再拿过来?这也是数据搜集和处理中的一个现实问题。此外,利用搜索引擎,进行关键词搜索,是直接照搬后台的每一条搜索记录,还是由网络公司进行开发加工后提供半成品?这也既涉及技术手段,还关乎制度方法和法律法规。当然,除了搜集、处理、存储过程中的技术手段外,设备、网络、平台等与应用大数据相适应的硬件设施及环境更是不可或缺的。
此外,由于大数据实时产生、形式多样,也会推动政府统计的数据发布工作提高时效性,丰富发布的内容和形式;由于政府统计应用大数据,需要大数据的生产者提供第三方信息,这也需要在相关法律细则中予以明确和强调;由于应用大数据需要更多懂数据懂技术的人才,加强队伍建设、引进和培养复合型人才也已经迫在眉睫……大数据是一场大变革。应对大数据带来的挑战,已经不是未雨绸缪,而是已经迫在眉睫了。而抓住机遇,顺势而为,中国统计就将迎来一个新的大发展大进步。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
KS 曲线不光滑:模型评估的隐形陷阱,从原因到破局的全指南 在分类模型(如风控违约预测、电商用户流失预警、医疗疾病诊断)的评 ...
2025-08-19偏态分布:揭开数据背后的非对称真相,赋能精准决策 在数据分析的世界里,“正态分布” 常被视为 “理想模型”—— 数据围绕均值 ...
2025-08-19CDA 数据分析师:数字化时代的价值创造者与决策智囊 在数据洪流席卷全球的今天,“数据驱动” 已从企业战略口号落地为核心 ...
2025-08-19CDA 数据分析师:善用 Power BI 索引列,提升数据处理与分析效率 在 Power BI 数据分析流程中,“数据准备” 是决定后续分析质量 ...
2025-08-18CDA 数据分析师:巧用 SQL 多个聚合函数,解锁数据多维洞察 在企业数据分析场景中,单一维度的统计(如 “总销售额”“用户总数 ...
2025-08-18CDA 数据分析师:驾驭表格结构数据的核心角色与实践应用 在企业日常数据存储与分析场景中,表格结构数据(如 Excel 表格、数据库 ...
2025-08-18PowerBI 累计曲线制作指南:从 DAX 度量到可视化落地 在业务数据分析中,“累计趋势” 是衡量业务进展的核心视角 —— 无论是 “ ...
2025-08-15Python 函数 return 多个数据:用法、实例与实战技巧 在 Python 编程中,函数是代码复用与逻辑封装的核心载体。多数场景下,我们 ...
2025-08-15CDA 数据分析师:引领商业数据分析体系构建,筑牢企业数据驱动根基 在数字化转型深化的今天,企业对数据的依赖已从 “零散分析” ...
2025-08-15随机森林中特征重要性(Feature Importance)排名解析 在机器学习领域,随机森林因其出色的预测性能和对高维数据的适应性,被广 ...
2025-08-14t 统计量为负数时的分布计算方法与解析 在统计学假设检验中,t 统计量是常用的重要指标,其分布特征直接影响着检验结果的判断。 ...
2025-08-14CDA 数据分析师与业务数据分析步骤 在当今数据驱动的商业世界中,数据分析已成为企业决策和发展的核心驱动力。CDA 数据分析师作 ...
2025-08-14前台流量与后台流量:数据链路中的双重镜像 在商业数据分析体系中,流量数据是洞察用户行为与系统效能的核心依据。前台流量与 ...
2025-08-13商业数据分析体系构建与 CDA 数据分析师的协同赋能 在企业数字化转型的浪潮中,商业数据分析已从 “可选工具” 升级为 “核 ...
2025-08-13解析 CDA 数据分析师:数据时代的价值挖掘者 在数字经济高速发展的今天,数据已成为企业核心资产,而将数据转化为商业价值的 ...
2025-08-13解析 response.text 与 response.content 的核心区别 在网络数据请求与处理的场景中,开发者经常需要从服务器返回的响应中提取数 ...
2025-08-12MySQL 统计连续每天数据:从业务需求到技术实现 在数据分析场景中,连续日期的数据统计是衡量业务连续性的重要手段 —— 无论是 ...
2025-08-12PyTorch 中 Shuffle 机制:数据打乱的艺术与实践 在深度学习模型训练过程中,数据的呈现顺序往往对模型性能有着微妙却关键的影响 ...
2025-08-12Pandas 多列条件筛选:从基础语法到实战应用 在数据分析工作中,基于多列条件筛选数据是高频需求。无论是提取满足特定业务规则的 ...
2025-08-12人工智能重塑 CDA 数据分析领域:从工具革新到能力重构 在数字经济浪潮与人工智能技术共振的 2025 年,数据分析行业正经历着前所 ...
2025-08-12