京公网安备 11010802034615号
经营许可证编号:京B2-20210330
不玩虚的,金融大数据为何四步走
金融大数据,目前有四个阶段。第一阶段是基于数据存储;第二阶段是分布式计算;第三阶段是大数据挖掘与分析;第四阶段是数据服务。对于商业银行,包括工商、建设、农业、交通和中行这国有五大行来说,都处于第一阶段。其中,建行处于平台选型阶段。农业银行已经完成数据存储方面的工作,但还未上线。而张子良老师负责的光大银行项目,在2013年10月上线,是国内第一家真正意义上将金融大数据应用到银行核心业务系统的案例。
银行的大数据处理
银行等金融机构,对大数据的处理需求有其特殊性。第一个就是结构化数据存储,第二个是数据挖掘。下面我们将逐一为您解开。
结构化数据存储,商业银行有实时查询数据库,用来处理历史金融数据。受限于传统ROE(Oracel、DB2、Sybase等)数据库的单表数据量瓶颈。银行数据超过一定上限就会影响查询效率。解决瓶颈的方法只能通过提高成本,大量购买高性能硬件和应用软件来解决。虽然银行IT部门预算丰富,但也还是需要平衡性能与成本的关系。
另一方面,银行需要在现有的数据上进行增值挖掘。如果依靠传统VR,对成本的影响巨大。采用大数据技术、采用分布式集成框架、采用开源框架,一方面满足了成本依赖,另外一方面运算性能方面有所提升。
在业务数据模型方面,商业银行分为两个层面。第一个层面就是面向业务层面,我需要选择哪些参数来构成我参与预算的数据模型。这是业务层面上面,这一部分是与以前的模型一致。
另外一部分就是针对数据模型还有什么样的计算方式,需要哪些数据的输入,这方面发生了变化。因为你传统离岸模式是单机的,运算性能始终都是它无法突破的东西。所以说它对数据处理的时候,往往是基于销量数据的,基于出让数据做小批量的数据尝试,然后得出一些规律性的东西,然后再反向推导到其它数据,这是传统的模式。在这个环境里面有了一种突破,就是我可以去全量数据,构建数据模型的参考体系,这个数据量更大。另外一块性能更高一些,比单机模式要快。
金融大数据安全性
数据安全其实是一个相对的改变。因为在这里面大数据技术与数据安全性能整个要求本身没有直接的关系。怎么说呢?如果不采用大数据技术,安全性是不是一样面临同样的问题呢?对于传统模式,无论你采用什么样的技术,同样面临数据安全性的问题。
所以在这个里面包括各个环节,像存储的安全,传输的安全,展现的安全。这种模式,传统的银行采用的模式里面,不包括物理网站的隔离,包括访问权限的控制,包括软加密这些都是在传统的模式里面适用的。大数据技术,与银行数据安全性没有直接的关系,只不过区别是什么呢?
大数据技术是一个新的技术体系,银行原来需要单机处理的东西,现在需要在多个节点去参与进来,这样带来一个什么样的挑战呢?就是必须保证集群是能够被特定的用户去访问,而且特殊的节点不能够被假冒。如果这个节点正在自动化处理,如果黑客冒充我的某个节点,要保证不会导致数据的泄露。这种情况下其实是大数据在安全方面特殊的要求点,必须做到物理网站的隔离。只有授权节点能够参与到我集群的工作中,这就是访问的安全。
节点数据的传输,这一块目前来讲银行的解决办法还是基于物理网隔离和用户的授权。这里面还是有瓶颈的,节点与节点之间,数据在共享的时候,速度还是瓶颈。这种加密需要去改造现有的大数据框架,目前来讲还没有看到国内银行有解决这个问题的。
总结
金融大数据,目前还处于一个逐步实施的阶段。商业银行中的金融大数据,既包括传统的BI结合,也包括对大数据环境底下数据分析挖掘。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
逻辑回归是数据分析、机器学习、统计建模中应用最广泛的二分类预测模型,常用于风险判断、行为预测、归因分析等场景。在SPSS、Py ...
2026-06-02数字经济时代,市场竞争日趋同质化,用户消费需求愈发个性化、多元化,传统依托经验、粗放式、广撒网的营销模式弊端日益凸显。长 ...
2026-06-02 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-06-02在市场竞争日趋饱和、用户需求不断细分的当下,企业创业创新、产品迭代与市场拓展不再依赖经验决策,而是需要系统化、工具化的商 ...
2026-06-01【核心关键词】调度、岗位、数据库、企业、报表、培训、程序、数据分析、数据加工、业务部门、企业数据、调度工具、业务指标、 ...
2026-06-01 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-06-01在数据统计分析、数据清洗、异常值识别与数据分布研究中,箱型图是最直观、高效、专业的可视化分析工具。相较于柱状图、折线图仅 ...
2026-05-29Tkinter是Python内置的标准GUI图形界面库,具备无需额外安装、调用简单、兼容性强、轻量化高效等优势,是Python快速开发桌面小程 ...
2026-05-29 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-05-29【核心关键词】大数据、经理、专业、金融、客户、传统、建模、数据产品、互联网金融、产品经理、数据分析、金融行业、数据模型 ...
2026-05-28 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-05-28随着大数据技术的快速普及,各行各业积累了海量的用户数据、交易数据、生产数据与行为数据。单纯的数据统计与报表分析只能呈现表 ...
2026-05-28在Python网络请求、接口测试、数据爬取、业务对接开发中,Requests库是最简洁、最高效的HTTP请求工具,凭借简洁的语法、完善的适 ...
2026-05-272025 年,零售与服务行业的竞争已从 “经验驱动” 全面转向 “数据驱动”。中小企业门店普遍面临数据零散、分析浅层、决策凭感觉 ...
2026-05-27 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-05-27在统计学分析、实验研究、业务数据复盘过程中,单因素方差分析是检验自变量对因变量是否存在显著影响的核心方法。其中,两个水平 ...
2026-05-26【核心关键词】算法、客户、大数据、互联网、调优、建模、模型优化、机器学习、评分卡模型、模型开发、智能风控、业务场景、数 ...
2026-05-26 很多数据分析师写过无数个 SELECT,但当被问到“新建一张表,该如何定义字段类型来保证数据质量”“创建视图和存储物理表有 ...
2026-05-26在数据清洗、统计分析与数据质量检测工作中,箱型图(又称箱线图、Box Plot)是最直观、最高效的可视化分析工具之一。相较于柱状 ...
2026-05-25在大数据分析、数据清洗、质量管控、风险监测等领域,异常数据识别是保障数据质量、确保分析结论精准、规避业务决策失误的核心基 ...
2026-05-25