数据资源体系让大数据发挥大价值
大数据的时代已经到来,并且大数据在未来的时间内将影响着政府、企业以及个人的工作与生活,在此环境下,数据将成为与人财物比肩的资源,面对如此宝贵的财富,如何让大数据发挥大价值已经成为政府、企业以及信息化厂商急需解决的问题,同方在国内率先提出数据资源体系的概念,通过数据资源体系让大数据发挥大价值。
如何发挥数据的价值 众所周知,大数据的时代已经到来,在大数据时代,数据的存储也好、数据的整合加工、分析挖掘也罢,都是为了使用数据,让数据发挥最大价值,现阶段在政府机关及企业中对数据进行挖掘分析让其发挥最大价值的方法主要有两种,一种是信息化程度较高,技术实力较强的政府机关或企业,通过自有的技术让数据发挥最大的价值,典型的代表如国外的沃尔玛、亚马逊、谷歌等公司,国内的阿里巴巴、百度等公司,这些公司在数据存储、整合加工、分析挖掘及应用方面有业内较好且领先的技术,但是所具有的技术都是为了满足自身业务发展的需要而开发设计,不对外公布;另一种是采用市场中主流的一些数据挖掘工具、数据分析工具、商业智能工具对已有的数据进行相关的挖掘、分析,让其产生价值,采用此类方法进行数据整合加工、分析挖掘的用户,可以达到初步的数据分析要求,但是由于其涉及的数据量巨大、数据种类众多、数据结构复杂、数据之间相互独立缺少关联关系、数据覆盖的业务面较广,仅是通过一些数据分析挖掘工具很难让已有数据发挥其最大价值。
因此,让大数据发挥最大价值,不仅要采用数据分析挖掘等相关工具,更重要的是从数据的本质和数据所描述的业务出发,规划和整理数据,建立起数据之间相互的关联关系,并体系化对数据进行管理,才有可能让数据源源不断的、最大化的发挥其价值。 同方在大数据领域率先提出了数据资源体系的概念,数据资源体系的形成是对数据进行规划设计,围绕用户的核心目标,采用顶层设计的方法对核心目标进行层层的分解,形成可落实各层级目标的指标体系,并且以指标体系为基础,形成可描述业务、存储数据、描述数据的元数据体系,并且以元数据体系为指导,形成一套即可以满足用户各层级的应用需求,又能够让数据源源不断、最大化发挥价值的数据资源体系。 数据资源体系的形成,首先要对数据进行资源化,然后将数据资源进行体系化管理,下面将对数据资源体系的形成进行详细分析。
如何让数据“资源化” 首先,数据是资源,是可以与人、财、物比肩的资源,更进一步数据已形成与石油、煤炭等相当的战略资源,与其他资源相同,数据也需要采用科学的方法进行开采、挖掘才可能发挥出其应有的价值,与其他资源不同的是,数据是可再生、可重复利用的资源,并且只要通过科学的方法和技术对数据进行挖掘,就可以让数据源源不断的发挥他的价值。中国的信息化产业经过近几十年的发展,在各行业、各领域已经积累了大量的数据,据有关机构调查,这些已经产生的数据中95%以上的数据都存放在各自的存储设备或硬盘中,自产生之后就没有经过任何使用,一直属于沉睡状态,因此,这些数据也就不产生任何价值,也就不能称之为资源。对于此类数据如不能让其成为资源,并发挥价值,对于数据的拥有者来说,数据的存储与维护将会无止境的投入,这些无价值的投入将会给数据的拥有者带来巨大的负担,而这个负担又不能丢弃,必须由数据拥有者来承担,因为这些数据的拥有者始终认为,这些数据是其拥有的具有无限价值的资源,如何唤醒这些沉睡中的数据,并让其真正意义上成为资源是现阶段各行业、各领域的数据拥有者都在思考,并力争解决的问题。
对于以上问题的解决,首先需要将沉睡的数据唤醒,也就是将数据进行资源化,让其真正意义上成为数据资源,并将所形成的数据资源进行体系化管理,最终形成数据资源体系。分析以上问题,数据不能形成资源,不能发挥其价值的原因主要有以下两点: 第一、已经存在的数据相互独立,没有建立相互的关联关系,而数据价值的产生往往需要从多维度、多角度分析相关数据才可能会挖掘出其价值; 第二、数据的存储与使用缺乏统一的规划设计,已有的数据大多数来源于是已经建立的各类业务系统,而各业务系统都是为了满足各自业务板块的需要而建立,缺乏统一的规划和设计,因此,对于已有数据的存储和使用以及新生数据的存储和使用缺乏统一的规划和设计。
因此,将数据形成数据资源主要需要解决以上两个问题,对于数据的统一规划和设计同方采用顶层设计的方法,从用户的核心目标出发,站在全局的角度规划和设计数据采集、存储、整合加工、分析挖掘及应用等方面的标准和规则,并通过顶层设计的方法将核心目标自顶向下进行层层分解,分解为一系列具体的工作目标和工作任务,层层贯彻实施,并通过工作部署、跟踪、监测、评价、调整、反馈等一系列手段和措施,确保各项工作与核心目标保持一致,并且将已经产生或以后产生的数据规划到各层级目标及任务中,在此过程中,将纳入到规划体系内的数据通过指标和元数据的方法进行描述,将数据分解为“细粒度的数据元素+相对粗粒度的数据集及其组织结构描述”,把数据元素(最小的不可再分的信息单元)做为数据资源的最小描述与管理单位,基于各种数据元素的按需组合形成面向实际业务、管理、服务需要的数据集并对数据集的构成形式和组织关系提供统一规范的描述形式,形成粗粒度的资源管理单元,再把数据元素和数据集用资源管理的手段和方法组织在一起,实现数据的资源化。 如何让数据资源体系化 数据要发挥价值,首先是将数据形成资源,对于已经形成的数据资源只有通过科学的技术和方法进行管理和使用才可以不断的发挥数据资源的价值,在此过程中对于数据资源的不断使用,需要一个科学合理的管理和保障体系做支撑,才能让数据资源源源不断的发挥最大价值,因此需要将已形成的数据资源进行体系化管理,从而形成数据资源体系。
让数据资源体系化,首先对于体系的规划设计也要采用顶层设计的方法,围绕着组织的核心目标,将已经形成的数据资源进行规划和设计,将已经通过指标与元数据描述的数据资源按照统一的规划设计形成指标体系,并以指标体系为基础形成元数据体系,以指标体系、元数据体系为指导逐步完成数据的采集、整合加工、综合应用、共享发布、信息服务与推送等一系列数据资源生产的流程,从而将整个过程形成一套完整的体系,即数据资源体系。 数据资源体系让数据发挥价值 在形成的数据资源体系中,扩展是全方位的,指标可以通过扩充其属性来不断完善,并可以通过资源管理手段进行扩充和增加,以此支持数据元素级别的资源增长;而数据集更是可以随时按需创建,只要数据元素足够全面,针对每一业务需要都可以创建一个特定的数据集来全面支撑,这样就可以最大程度的满足各种不同的数据层面需求,从而最大程度发挥数据的价值。
小结 大数据时代已经来临,政府机关及企事业单位对于数据价值挖掘的需求也越来越多,发挥数据的价值,不仅仅是使用数据分析挖掘工具,更应该从对数据的规划设计做起,通过数据资源体系为数据源源不断发挥其最大价值打好最结实的基础,最终让大数据发挥数据的最大价值。
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14