京公网安备 11010802034615号
经营许可证编号:京B2-20210330
块数据:大数据发展的趋势、挑战和机遇
在25日的中国侨联青年委员会“块数据与城市发展”专题讲坛上,各方对大数据进行了阐述和解读,表明了这样的观点:大数据将在经济领域彻底颠覆人类自工业革命以来积累形成的经济模式和商业模式,而块数据将是大数据发展的趋势。
为配合理解什么是大数据发展的趋势、什么是块数据,本报今日起开设“块数据漫谈”专栏,陆续推出科普文章,以飨读者。
大势所趋 从“条数据”到“块数据”
对于大数据时代,目前人们所讨论的数据几乎都是条数据,条数据是指某个行业或领域呈链条状串起来的数据,他们彼此割裂、互不融通,限制了大数据在经济社会发挥作用。
与之相比,块数据是在一个物理空间或者行政区域形成的涉及到人、事、物等各类数据的综合,相当于将各类“条数据”解构、交叉、融合。在块数据集合过程中,包含了数据空间的填充、空间数据的重构、集合过程的组构,及组构过程中的集合,同时还有新数据的汇集和原有数据组合后的衍生数据。通过块数据的应用,可以挖掘出数据更高、更多的价值。
举例来说,一个百货商场每天都会卖出很多商品,每个商品的原材料、品牌设计、广告营销数据、百货商场卖出商品的数量、种类数据,消费者在商场购物、娱乐的数据,将所有在商场这个物理空间产生的数据求和,得到的就是块数据。而一个数据的变化会带动其他数据发生改变,比如,当商场的影院播放一部聚集人气的影片时,商场的其他产品销量也会上升,这一过程又会衍生出新的数据。这个例子也充分说明了块数据的强活性,即随时随地都在进行数据更新。
因此,块数据的商业价值就在于通过对块数据的挖掘、分析,我们能够实现对事物规律的精准定位,甚至能够发现以往未能发现的新规律。可以毫不夸张地说,在这个时代,得“块”者得天下。
“大材大用” 块数据应用面临挑战
在创新商业模式方面,通过块数据将以往的“数据孤岛”连成一片后,可以综合分析出所需的商业要素,如消费喜好、生活需求等,我们就可以从中精确找准那些高度个性化、长尾化的市场需求,孕育产生全新的商业模式。例如,华为公司基于IT基础设施领域在存储和计算的优势,提供整体大数据解决方案就属于此类。
同时,块数据在社会领域应用上也有广阔前景,包括提升社会保障水平、推动社会组织更好履行社会责任等。社会公共文化在块数据的催化下也将被重新定义,在全社会形成诚信、分享、开放、创新的文化氛围将更容易实现。在块数据的推动下,政府职能也发生着深刻改变,具体表现在模式、服务、规则的不断升级和优化。
但是块数据的非结构化比例相比条数据而言更高,使得块数据开发、应用和管理的难度更大,因此在块数据应用方面我们面临着非常多的考验。
首先,块数据的形成是一个构建生态系统的工程,这个生态系统需要建立包含标准确立、技术支撑、安全监管、开放体系构建等多要素的整套规则体系,规则体系的缺失将无法给块数据的应用提供一个安全稳定的大环境,会给块数据应用中可能会遇到的清洗、共享、利益分成、隐私保护等问题解决带来困扰。
此外,由于只有结构化的数据才能进行对比分析,而传统的数据库技术已经不再适用非结构化数据,与国外技术相比,国内的非结构化处理技术的先进性和可靠性仍有很大差距。
同时,缺少法律约束、道德自律、技术手段等方面的数据安全保护支撑,数据安全问题日益凸显,保护公民隐私刻不容缓。而数据确权、数据定价、数据保险和数据货币、登记、交割等一系列新的金融业态将会随着大数据产业链的完善而产生,金融市场的不稳定性将成常态化。
大有可为 块数据催生广阔前景
挑战艰巨,但是无法遮盖块数据应用的巨大潜力和价值。不久的将来,块数据将对商业领域、民生领域、政府治理领域留下深刻烙印。
在商业领域,基于人的主体性构建的块数据首先影响的是各类服务行业,通过数据挖掘,在发现需求的同时又能创造需求,紧接着再根据需求为客户定制服务和产品,在这一过程中,影响又随之向工业、农业延伸,数据本身也逐步完善自己的产业结构,最终可以形成全产业链条。
在民生领域,通过块数据应用,民生服务将进入长尾化和个性化阶段,基于数据模拟技术,能够对重大民生事项实现提前预测,变模糊被动的后端治理为见微知著的前端治理。此外,基于深度学习技术,块数据可对重大民生问题的解决提供智能化的支持,有助于降低服务成本,提升工作效率,形成一个更加温馨、更具效率的民生服务体系。
在政府治理领域,在块数据思维的引领下,政府既有行为将会发生巨大转变。对政府内部机构来说,块数据可以打破壁垒,连接孤岛,通过信息共享、工作联动的方式推动工作的有效开展,对群众来说,随着数据公开的常态化,社会公众对政府的日常运作的监督也将更有效。同时,块数据的应用可以让政府决策更具科学性和前瞻性,打造智慧政府和法制政府将成为可能。
比如,运用块数据,政府可以根据个人的不同情况,以定制化的方式让老百姓得到更好的服务,使公共管理领域真正实现高效。而一些长期以来难以解决的问题比如环境污染、食品安全等都可以通过块数据的公开倒逼责任主体执行改革,政府工作模式从以往的单纯结果导向向结果和过程导向同时并重转变。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22