就目前而言，不管是系统中的历史数据，还是持续不断接入系统中的实时数据，只要数据是可访问的，我们就能够处理这些数据。按照处理的数据形式和得到结果的时效性进行分类，数据处理框架就可以分为两类：批处理系统和流处理系统。
数据处理框架中的批处理就是一种用来计算大规模数据集的方法。批处理的过程包括将任务分解为较小的任务，分别在每个计算机上进行计算运行，根据数据分析的结果对数据的重新组合，然后通过计算机的计算出组合数据的最终结果。当处理非常巨大的数据集时，批处理系统是最有效的。而流处理就是对由连续不断的单条数据项组成的数据流进行计算，注重数据处理结果的时效性。
一、批处理系统
批处理系统在大数据中有很长的历史。批处理系统主要操作大量静态的数据，并且等到全部处理完成后才能得到返回的结果。批处理系统中的数据集一般符合以下特征：
1、有限： 数据集中的数据必须是有限的。
2、持久： 批处理系统处理的数据一般存储在某个储存器上。
3、海量： 一般来说只有海量的数据才能用批处理系统进行分析，并且海量的数据通常只能使用批处理系统来处理。
由于批处理系统在处理海量的持久数据方面表现出色，而历史数据的数量是很多的，所以它通常被用来处理历史数据，但是由于海量数据的处理需要耗费很多时间，所以批处理系统一般不用于即时性场景需求以及对延时要求较高的场景。
二、流处理系统
批处理系统好理解，那什么是流处理系统呢？流处理系统与批处理系统所处理的数据不同之处在于，流处理系统并不是针对已经存在的数据集进行操作，而是处理对从外部系统接入的的数据。流处理系统一般分为两种：
1、逐项处理： 每次处理一条数据，是真正意义上的流处理。
2、微批处理： 这种处理方式把一小段时间内的数据当作一个微批次，对这个微批次内的数据进行处理。
不论是哪种处理方式，其实时性都要远远好于批处理系统。因此，流处理系统非常适合应用于对实时性要求较高的场景，由于很多情况下，我们想要尽快看到计算结果，所以近些年流处理系统的应用越来越广泛。
相信大家看了这篇文章以后已经知道了数据处理框架上面的相关情况了吧，一般来说，数据的处理里不来批处理和流处理，批处理适用于历史数据的分析，而流处理适用于即时数据的分析，两者都有各自的优缺点。希望本文能够帮到大家。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
很多小伙伴都在问CDA考试的问题，以下是结合 2025 年最新政策与行业动态更新的 CDA 数据分析师认证考试 Q&A，覆盖考试内容、报考 ...
2025-12-11在Excel数据可视化中，柱形图因直观展示数据差异的优势被广泛使用，而背景色设置绝非简单的“换颜色”——合理的背景色能突出核 ...
2025-12-11在科研实验、商业分析或医学研究中，我们常需要判断“两组数据的差异是真实存在，还是偶然波动”——比如“新降压药的效果是否优 ...
2025-12-11在CDA（Certified Data Analyst）数据分析师的工作体系中，数据库就像“数据仓库的核心骨架”——所有业务数据的存储、组织与提 ...
2025-12-11在神经网络模型搭建中，“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活，导致回归任务输出异 ...
2025-12-05在机器学习落地过程中，“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据， ...
2025-12-05在CDA（Certified Data Analyst）数据分析师的能力模型中，“指标计算”是基础技能，而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中，R方（决定系数）是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例，取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中，经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标（如外卖订单地址、景 ...
2025-12-04在CDA（Certified Data Analyst）数据分析师的指标体系中，“通用指标”与“场景指标”并非相互割裂的两个部分，而是支撑业务分 ...
2025-12-04每到“双十一”，电商平台的销售额会迎来爆发式增长；每逢冬季，北方的天然气消耗量会显著上升；每月的10号左右，工资发放会带动 ...
2025-12-03随着数字化转型的深入，企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等，这些 ...
2025-12-03在CDA（Certified Data Analyst）数据分析师的工作体系中，“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中，损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜，却 ...
2025-12-02在CDA（Certified Data Analyst）数据分析师的日常工作中，“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节，标准化是消除量纲影响的核心手段——它将不同量级的特征（如“用户年龄”“消费金额”）转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天，A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中，LSTM（长短期记忆网络）凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑：用 ...
2025-12-01引言：数据时代的“透视镜”与“掘金者” 在数字经济浪潮下，数据已成为企业决策的核心资产，而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常，常始于一堆“毫无章法”的数据点：电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
