京公网安备 11010802034615号
经营许可证编号:京B2-20210330
不久前,国家统计局与11家大数据企业签署了战略合作框架协议。作为行业中的翘楚,这些企业各有各的特点。如阿里巴巴、1号店都是国内最著名的零售网购企业,五八同城是知名的求职就业平台,百度拥有最大的中文搜索引擎……战略合作协议取不同企业的共性,表达了合作的愿望和意向,明确要共同研究探讨建立大数据应用的统计标准,包括指标定义、口径、范围、分类、计算方法、代码等;共同研究确定利用企业数据完善、补充政府统计数据的内容、形式及实施步骤,包括数据采集、处理、分析、挖掘、发布等;并在各方一致同意的其他方面开展合作。
无疑,签署协议表明合作有了一个良好的实质性的开端。但是,在政府统计中应用大数据确实是一项非常复杂、难度极大的工作。特别是要把庞大、海量、类型不同、标准各异的非结构化数据转化成结构化数据,从统计制度方法到数据处理技术、以及具体的组织运作,都面临着极大的挑战。因此,需要认真梳理现有的大数据企业及数据类型,并分析其对政府统计带来的影响,由简单到复杂,分层次逐步渐进式推进。
第一个层次,相对简单、投资少见效快的项目,可以先上快上。年内早些时候,在参观百度总部的时候,有管理人员曾向我们介绍:原来如搜索北京地区天气预报,显示出的是中央气象台、北京市气象局等相关网站和一些发布天气预报的消息,需要继续点击才能查询到天气信息;而与气象部门合作,只要输入有关的关键词,数日的气象信息马上就可以显示出来,使用户能够得到更加准确、方便的服务。他们表示,与统计部门完全可以采取相同形式的合作。确实,目前搜索某些年度、季度、月度主要指标数据,可能会出现成百上千条相关信息,用户或者要从浩瀚消息中去粗取精、去伪存真,或许要登录统计部门的网站点击再点击,一步步地找到自己需要的统计信息。如果与最大的中文搜索引擎合作,查询许多统计指标就可以一次性到位。这难道不是服务型统计建设的一项切实有效的措施吗?
第二个层次,比较成熟的大数据产品,可以先拿过来。诸多大数据企业,都基于自身业务中源源不断产生的大数据,研制开发了自己的大数据产品,有些已经在业界乃至社会上产生了较大的影响力。如阿里集团旗下企业开发的淘宝价格指数(ispi)、天猫物流指数,如昆明泛亚的有色金属交易价格指数,都属于企业推出的相对成熟稳定的产品。虽然这些产品在覆盖面、代表性、稳定性等方面,与政府统计部门的同类指标数据相比还有差距,但其却在实时性、超前性方面具有优势。所以,如果能够对其计算过程作一些了解剖析,如果方法确实科学可行,能够说明一定的问题,不妨将其纳入政府统计相关数据的发布体系中来,作为政府统计的一个补充,提供社会各界的用户参考。
第三个层次,工作量大、技术难度大的工作,可以逐步稳步推进。与企业合作,在政府统计中应用大数据,最主要、最重要、也是难度最大的工作就是,如何把网上生成的海量数据作为政府统计的数据源,导入政府统计的统一数据处理平台,并进行加工处理,生成所需要的专业统计数据,如价格数据,如商品零售数据。一方面,需要从制度方法入手。选择有影响和代表性的电商,了解其产品分类及标准,深入研究与政府统计在标准、代码、口径、范围等方面的差异,探讨统一或衔接的可能性及办法;另一方面,需要从数据处理技术入手。选择在大数据处理方面技术领先的企业,提出在网上抓取、导入大数据,并与政府统计实现对接、转换,进而按政府统计的要求进行加工处理和分析的业务需求,了解技术型企业在技术处理方面的满足程度。
第四个层次,理论、科技含量高的工作,可以有选择地进行。比如与有关企业合作,通过网上数据和关键词搜索,建立经济模型,开展经济形势分析、预警预测分析,为宏观乃至微观层面的决策提供参考依据。可以结合经济社会的发展情势,有选择地确定研究题目,共同进行数据处理,并进行分析研究,推出研究成果。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
机器学习的本质,是让模型通过对数据的学习,自主挖掘规律、实现预测与决策,而这一过程的核心驱动力,并非单一参数的独立作用, ...
2026-03-27在SQL Server数据库操作中,日期时间处理是高频核心需求——无论是报表统计中的日期格式化、数据筛选时的日期类型匹配,还是业务 ...
2026-03-27在CDA(Certified Data Analyst)数据分析师的能力体系与职场实操中,高维数据处理是高频且核心的痛点——随着业务场景的复杂化 ...
2026-03-27在机器学习建模与数据分析实战中,特征维度爆炸、冗余信息干扰、模型泛化能力差是高频痛点。面对用户画像、企业经营、医疗检测、 ...
2026-03-26在这个数据无处不在的时代,数据分析能力已不再是数据从业者的专属技能,而是成为了职场人、管理者、创业者乃至个人发展的核心竞 ...
2026-03-26在CDA(Certified Data Analyst)数据分析师的能力体系中,线性回归是连接描述性统计与预测性分析的关键桥梁,也是CDA二级认证的 ...
2026-03-26在数据分析、市场研究、用户画像构建、学术研究等场景中,我们常常会遇到多维度、多指标的数据难题:比如调研用户消费行为时,收 ...
2026-03-25在流量红利见顶、获客成本持续攀升的当下,营销正从“广撒网”的经验主义,转向“精耕细作”的数据驱动主义。数据不再是营销的辅 ...
2026-03-25在CDA(Certified Data Analyst)数据分析师的全流程工作中,无论是前期的数据探索、影响因素排查,还是中期的特征筛选、模型搭 ...
2026-03-25在当下数据驱动决策的职场环境中,A/B测试早已成为互联网产品、运营、营销乃至产品迭代优化的核心手段,小到一个按钮的颜色、文 ...
2026-03-24在统计学数据分析中,尤其是分类数据的分析场景里,卡方检验和显著性检验是两个高频出现的概念,很多初学者甚至有一定统计基础的 ...
2026-03-24在CDA(Certified Data Analyst)数据分析师的日常业务分析与统计建模工作中,多组数据差异对比是高频且核心的分析场景。比如验 ...
2026-03-24日常用Excel做数据管理、台账维护、报表整理时,添加备注列是高频操作——用来标注异常、说明业务背景、记录处理进度、补充关键 ...
2026-03-23作为业内主流的自助式数据可视化工具,Tableau凭借拖拽式操作、强大的数据联动能力、灵活的仪表板搭建,成为数据分析师、业务人 ...
2026-03-23在CDA(Certified Data Analyst)数据分析师的日常工作与认证考核中,分类变量的关联分析是高频核心场景。用户性别是否影响商品 ...
2026-03-23在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20在CDA(Certified Data Analyst)数据分析师的全流程工作闭环中,统计制图是连接严谨统计分析与高效业务沟通的关键纽带,更是CDA ...
2026-03-20在MySQL数据库优化中,分区表是处理海量数据的核心手段——通过将大表按分区键(如时间、地域、ID范围)分割为多个独立的小分区 ...
2026-03-19在商业智能与数据可视化领域,同比、环比增长率是分析数据变化趋势的核心指标——同比(YoY)聚焦“长期趋势”,通过当前周期与 ...
2026-03-19