京公网安备 11010802034615号
经营许可证编号:京B2-20210330
不玩虚的,金融大数据为何四步走
金融大数据,目前有四个阶段。第一阶段是基于数据存储;第二阶段是分布式计算;第三阶段是大数据挖掘与分析;第四阶段是数据服务。对于商业银行,包括工商、建设、农业、交通和中行这国有五大行来说,都处于第一阶段。其中,建行处于平台选型阶段。农业银行已经完成数据存储方面的工作,但还未上线。而张子良老师负责的光大银行项目,在2013年10月上线,是国内第一家真正意义上将金融大数据应用到银行核心业务系统的案例。
银行的大数据处理
银行等金融机构,对大数据的处理需求有其特殊性。第一个就是结构化数据存储,第二个是数据挖掘。下面我们将逐一为您解开。
结构化数据存储,商业银行有实时查询数据库,用来处理历史金融数据。受限于传统ROE(Oracel、DB2、Sybase等)数据库的单表数据量瓶颈。银行数据超过一定上限就会影响查询效率。解决瓶颈的方法只能通过提高成本,大量购买高性能硬件和应用软件来解决。虽然银行IT部门预算丰富,但也还是需要平衡性能与成本的关系。
另一方面,银行需要在现有的数据上进行增值挖掘。如果依靠传统VR,对成本的影响巨大。采用大数据技术、采用分布式集成框架、采用开源框架,一方面满足了成本依赖,另外一方面运算性能方面有所提升。
在业务数据模型方面,商业银行分为两个层面。第一个层面就是面向业务层面,我需要选择哪些参数来构成我参与预算的数据模型。这是业务层面上面,这一部分是与以前的模型一致。
另外一部分就是针对数据模型还有什么样的计算方式,需要哪些数据的输入,这方面发生了变化。因为你传统离岸模式是单机的,运算性能始终都是它无法突破的东西。所以说它对数据处理的时候,往往是基于销量数据的,基于出让数据做小批量的数据尝试,然后得出一些规律性的东西,然后再反向推导到其它数据,这是传统的模式。在这个环境里面有了一种突破,就是我可以去全量数据,构建数据模型的参考体系,这个数据量更大。另外一块性能更高一些,比单机模式要快。
金融大数据安全性
数据安全其实是一个相对的改变。因为在这里面大数据技术与数据安全性能整个要求本身没有直接的关系。怎么说呢?如果不采用大数据技术,安全性是不是一样面临同样的问题呢?对于传统模式,无论你采用什么样的技术,同样面临数据安全性的问题。
所以在这个里面包括各个环节,像存储的安全,传输的安全,展现的安全。这种模式,传统的银行采用的模式里面,不包括物理网站的隔离,包括访问权限的控制,包括软加密这些都是在传统的模式里面适用的。大数据技术,与银行数据安全性没有直接的关系,只不过区别是什么呢?
大数据技术是一个新的技术体系,银行原来需要单机处理的东西,现在需要在多个节点去参与进来,这样带来一个什么样的挑战呢?就是必须保证集群是能够被特定的用户去访问,而且特殊的节点不能够被假冒。如果这个节点正在自动化处理,如果黑客冒充我的某个节点,要保证不会导致数据的泄露。这种情况下其实是大数据在安全方面特殊的要求点,必须做到物理网站的隔离。只有授权节点能够参与到我集群的工作中,这就是访问的安全。
节点数据的传输,这一块目前来讲银行的解决办法还是基于物理网隔离和用户的授权。这里面还是有瓶颈的,节点与节点之间,数据在共享的时候,速度还是瓶颈。这种加密需要去改造现有的大数据框架,目前来讲还没有看到国内银行有解决这个问题的。
总结
金融大数据,目前还处于一个逐步实施的阶段。商业银行中的金融大数据,既包括传统的BI结合,也包括对大数据环境底下数据分析挖掘。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 题目1 一家餐厅统计顾客的性别、年龄、消费金额等信息,在进行数据分析时,发现性别这一变量在 ...
2026-10-16核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-16核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-16一、为什么要区分这两种分布 在数据分析和统计学中,拿到一组数据后第一件事通常就是看它的分布形态。分布形态决定了你能用什么 ...
2026-10-15一、问题现象 在实际使用 Excel 透视表做数据分析时,经常会遇到这样的情况:数据源表格里明明新增了一行或一列金额数据,数据源 ...
2026-10-15核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-15一、什么是预测式发货 预测式发货(Anticipatory Shipping)是亚马逊于2013年12月获得授权的一项美国专利(专利号 US 8,615,473 ...
2026-10-14一、SQL在金融量化体系中的定位 量化投资的本质是用数据驱动决策,而数据处理贯穿量化研究的全生命周期。从原始行情数据清洗、因 ...
2026-10-14核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-14CDA数据分析师 出品 作者:李诗怡 四层结构 · 零件与房子 · 六大易错点 一、什么是指标体系 定义:指标体系是整套完整框架 ...
2026-10-13写在开头 先还原一个你大概率见过的场面。 立项会上有人说:我们得做用户画像。 于是团队关进会议室,白板写满便利贴,两小时后 ...
2026-10-13 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-10-13在统计学与数据分析研究中,相关性分析分为数值变量分析与分类变量分析两大类。针对身高、销量、分数等连续数值变量,通常采用皮 ...
2026-10-12在Power BI可视化分析体系中,常规表格仅能展示枯燥的数值数据,存在数据对比不直观、强弱规律不突出、维度交叉分析低效等问题。 ...
2026-10-12 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-10-12在传统零售行业同质化竞争激烈、大众营销转化率持续走低的背景下,依托经验与直觉的粗放式营销逐渐失效。美国塔吉特百货(Target ...
2026-10-10随着智能客服、数字化服务、用户精细化运营的快速普及,传统零散、非标准化的客户服务数据与业务体系逐渐难以支撑高效服务治理。 ...
2026-10-10 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-10-10CDA数据分析师 出品 作者:李诗怡 定义区别 · 场景举例 · 指标分类 · 计算方法 知识体系总览 模块 包含内容 一、核 ...
2026-10-09在数据分析工作流中,业务数据大多存储在各类关系型数据库内,例如MySQL、PostgreSQL、SQLite等。Pandas是Python生态中主流的数 ...
2026-10-09