
数据资源体系让大数据发挥大价值
大数据的时代已经到来,并且大数据在未来的时间内将影响着政府、企业以及个人的工作与生活,在此环境下,数据将成为与人财物比肩的资源,面对如此宝贵的财富,如何让大数据发挥大价值已经成为政府、企业以及信息化厂商急需解决的问题,同方在国内率先提出数据资源体系的概念,通过数据资源体系让大数据发挥大价值。
如何发挥数据的价值 众所周知,大数据的时代已经到来,在大数据时代,数据的存储也好、数据的整合加工、分析挖掘也罢,都是为了使用数据,让数据发挥最大价值,现阶段在政府机关及企业中对数据进行挖掘分析让其发挥最大价值的方法主要有两种,一种是信息化程度较高,技术实力较强的政府机关或企业,通过自有的技术让数据发挥最大的价值,典型的代表如国外的沃尔玛、亚马逊、谷歌等公司,国内的阿里巴巴、百度等公司,这些公司在数据存储、整合加工、分析挖掘及应用方面有业内较好且领先的技术,但是所具有的技术都是为了满足自身业务发展的需要而开发设计,不对外公布;另一种是采用市场中主流的一些数据挖掘工具、数据分析工具、商业智能工具对已有的数据进行相关的挖掘、分析,让其产生价值,采用此类方法进行数据整合加工、分析挖掘的用户,可以达到初步的数据分析要求,但是由于其涉及的数据量巨大、数据种类众多、数据结构复杂、数据之间相互独立缺少关联关系、数据覆盖的业务面较广,仅是通过一些数据分析挖掘工具很难让已有数据发挥其最大价值。
因此,让大数据发挥最大价值,不仅要采用数据分析挖掘等相关工具,更重要的是从数据的本质和数据所描述的业务出发,规划和整理数据,建立起数据之间相互的关联关系,并体系化对数据进行管理,才有可能让数据源源不断的、最大化的发挥其价值。 同方在大数据领域率先提出了数据资源体系的概念,数据资源体系的形成是对数据进行规划设计,围绕用户的核心目标,采用顶层设计的方法对核心目标进行层层的分解,形成可落实各层级目标的指标体系,并且以指标体系为基础,形成可描述业务、存储数据、描述数据的元数据体系,并且以元数据体系为指导,形成一套即可以满足用户各层级的应用需求,又能够让数据源源不断、最大化发挥价值的数据资源体系。 数据资源体系的形成,首先要对数据进行资源化,然后将数据资源进行体系化管理,下面将对数据资源体系的形成进行详细分析。
如何让数据“资源化” 首先,数据是资源,是可以与人、财、物比肩的资源,更进一步数据已形成与石油、煤炭等相当的战略资源,与其他资源相同,数据也需要采用科学的方法进行开采、挖掘才可能发挥出其应有的价值,与其他资源不同的是,数据是可再生、可重复利用的资源,并且只要通过科学的方法和技术对数据进行挖掘,就可以让数据源源不断的发挥他的价值。中国的信息化产业经过近几十年的发展,在各行业、各领域已经积累了大量的数据,据有关机构调查,这些已经产生的数据中95%以上的数据都存放在各自的存储设备或硬盘中,自产生之后就没有经过任何使用,一直属于沉睡状态,因此,这些数据也就不产生任何价值,也就不能称之为资源。对于此类数据如不能让其成为资源,并发挥价值,对于数据的拥有者来说,数据的存储与维护将会无止境的投入,这些无价值的投入将会给数据的拥有者带来巨大的负担,而这个负担又不能丢弃,必须由数据拥有者来承担,因为这些数据的拥有者始终认为,这些数据是其拥有的具有无限价值的资源,如何唤醒这些沉睡中的数据,并让其真正意义上成为资源是现阶段各行业、各领域的数据拥有者都在思考,并力争解决的问题。
对于以上问题的解决,首先需要将沉睡的数据唤醒,也就是将数据进行资源化,让其真正意义上成为数据资源,并将所形成的数据资源进行体系化管理,最终形成数据资源体系。分析以上问题,数据不能形成资源,不能发挥其价值的原因主要有以下两点: 第一、已经存在的数据相互独立,没有建立相互的关联关系,而数据价值的产生往往需要从多维度、多角度分析相关数据才可能会挖掘出其价值; 第二、数据的存储与使用缺乏统一的规划设计,已有的数据大多数来源于是已经建立的各类业务系统,而各业务系统都是为了满足各自业务板块的需要而建立,缺乏统一的规划和设计,因此,对于已有数据的存储和使用以及新生数据的存储和使用缺乏统一的规划和设计。
因此,将数据形成数据资源主要需要解决以上两个问题,对于数据的统一规划和设计同方采用顶层设计的方法,从用户的核心目标出发,站在全局的角度规划和设计数据采集、存储、整合加工、分析挖掘及应用等方面的标准和规则,并通过顶层设计的方法将核心目标自顶向下进行层层分解,分解为一系列具体的工作目标和工作任务,层层贯彻实施,并通过工作部署、跟踪、监测、评价、调整、反馈等一系列手段和措施,确保各项工作与核心目标保持一致,并且将已经产生或以后产生的数据规划到各层级目标及任务中,在此过程中,将纳入到规划体系内的数据通过指标和元数据的方法进行描述,将数据分解为“细粒度的数据元素+相对粗粒度的数据集及其组织结构描述”,把数据元素(最小的不可再分的信息单元)做为数据资源的最小描述与管理单位,基于各种数据元素的按需组合形成面向实际业务、管理、服务需要的数据集并对数据集的构成形式和组织关系提供统一规范的描述形式,形成粗粒度的资源管理单元,再把数据元素和数据集用资源管理的手段和方法组织在一起,实现数据的资源化。 如何让数据资源体系化 数据要发挥价值,首先是将数据形成资源,对于已经形成的数据资源只有通过科学的技术和方法进行管理和使用才可以不断的发挥数据资源的价值,在此过程中对于数据资源的不断使用,需要一个科学合理的管理和保障体系做支撑,才能让数据资源源源不断的发挥最大价值,因此需要将已形成的数据资源进行体系化管理,从而形成数据资源体系。
让数据资源体系化,首先对于体系的规划设计也要采用顶层设计的方法,围绕着组织的核心目标,将已经形成的数据资源进行规划和设计,将已经通过指标与元数据描述的数据资源按照统一的规划设计形成指标体系,并以指标体系为基础形成元数据体系,以指标体系、元数据体系为指导逐步完成数据的采集、整合加工、综合应用、共享发布、信息服务与推送等一系列数据资源生产的流程,从而将整个过程形成一套完整的体系,即数据资源体系。 数据资源体系让数据发挥价值 在形成的数据资源体系中,扩展是全方位的,指标可以通过扩充其属性来不断完善,并可以通过资源管理手段进行扩充和增加,以此支持数据元素级别的资源增长;而数据集更是可以随时按需创建,只要数据元素足够全面,针对每一业务需要都可以创建一个特定的数据集来全面支撑,这样就可以最大程度的满足各种不同的数据层面需求,从而最大程度发挥数据的价值。
小结 大数据时代已经来临,政府机关及企事业单位对于数据价值挖掘的需求也越来越多,发挥数据的价值,不仅仅是使用数据分析挖掘工具,更应该从对数据的规划设计做起,通过数据资源体系为数据源源不断发挥其最大价值打好最结实的基础,最终让大数据发挥数据的最大价值。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01