Hadoop是一种分析和处理大数据的软件平台，是Appach的一个用Java语言所实现的开源软件的加框，可编写和运行分布式应用处理大规模数据，是专为离线和大规模数据分析而设计的，对那种对几个记录随机读写的在线事务处理模式并不适合。
Hadoop的框架最核心的设计就是：HDFS和MapReduce.HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算.大数据在Hadoop处理的流程是：数据是通过了Hadoop的集群处理后得到的结果。
HDFS(Hadoop Distributed File System，Hadoop分布式文件系统)，它是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，适合那些有着超大数据集(large data set)的应用程序。
MapReduce是一套从海量源数据提取分析元素最后返回结果集的编程模型，将文件分布式存储到硬盘是第一步，而从海量数据中提取分析我们需要的内容就是MapReduce做的事了。
在现实的应用中Hadoop非常适合应用于大数据存储和大数据分析的应用，适合于服务器几千台到几万台的集群运行，支持PB级的存储容量。这是传统数据库不能超越的一点也是最有优势的一点。
Hadoop作用
大数据存储：分布式存储
日志处理：擅长日志分析
ETL:数据抽取到oracle、mysql、DB2、mongdb及主流数据库
机器学习: 比如Apache Mahout项目
搜索引擎:Hadoop + lucene实现
数据挖掘：目前比较流行的广告推荐，个性化广告推荐
Hadoop是专为离线和大规模数据分析而设计的，并不适合那种对几个记录随机读写的在线事务处理模式。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
CDA数据分析师 出品 作者：李诗怡 基础与单表查询 四大类语言 · 数据库基础 · DQL 单表查询 ” 一、SQL 四大类语言与数据 ...
2026-11-13核心资源推荐 CDA教材（2025）：https://edu.cda.cn/goods/show/3151CDA模拟题（2025）：https://edu.cda.cn/goods/show/2845CD ...
2026-11-13核心资源推荐 CDA教材（2025）：https://edu.cda.cn/goods/show/3151CDA模拟题（2025）：https://edu.cda.cn/goods/show/2845CD ...
2026-11-13一、问题从哪来 财务分析里算增长率，常规公式所有人都会写： 增长率本年数上年数上年数 这个公式在"上年为正"时完全成立。但一 ...
2026-11-12一、什么是加权聚类 普通聚类默认"每个样本、每个指标都同等重要"：距离公式里每个样本权重都是 1，每个指标在距离计算里占比相 ...
2026-11-12“纲举目张，执本末从。”若想在数据分析领域有所收获，一套合适的学习教材至关重要。一套优质且契合需求的学习教材无疑是那关键 ...
2026-11-12一、需求从哪来 做 Excel 报表时，"从一个透视表取数据"这个需求通常有三种来源： 汇总页引用：明细透视表在另一个 sheet，汇总 ...
2026-11-11一、透视表的价值在哪 一句话概括：数据透视表把"写公式汇总"变成了"拖字段看结果"。 传统做法要写 SUMIFS、COUNTIFS，改一个维 ...
2026-11-11核心资源推荐 CDA教材（2025）：https://edu.cda.cn/goods/show/3151CDA模拟题（2025）：https://edu.cda.cn/goods/show/2845CD ...
2026-11-11一、回归分析到底在解决什么问题 很多人学回归分析，是从公式开始的：最小二乘法、残差平方和、R²、t 检验。公式记住了，但一到 ...
2026-11-10一、等级聚类法是什么 等级聚类法（Hierarchical Clustering），中文也叫系统聚类法、层次聚类法，是聚类分析里最经典的一类方法 ...
2026-11-10考试范围 PART 1 大数据基础理论 占比（8% ） a. 大数据分析基础（1%） b. Python 基础（5%） c. Linux & Ubuntu 操作系统基 ...
2026-11-10一、业务背景 在后台列表、管理系统、报表页面的分页需求里，前端通常需要两份数据：当前页的分页记录、符合筛选条件的数据总条 ...
2026-11-09一、需求看起来简单，实际坑不少 "把文本里所有中括号 [] 中间的内容提取出来"——这是文本清洗里最常见的需求之一。日志里的 [I ...
2026-11-09大数据分析师证书考什么 考试范围 PART 1 大数据基础理论 占比（8% ） a. 大数据分析基础（1%） b. Python 基础（5%） c. Li ...
2026-11-09CDA数据分析师 出品 作者：李诗怡 一、数据处理概述 定义： 在正式开展数据分析之前，对原始采集的数据进行整理、修正、加工和精 ...
2026-11-06一、为什么数据要先标准化 拿到一份数据，各列的量纲往往完全不同：年龄单位是"岁"（约 20~60），收入单位是"元"（几千到几万） ...
2026-11-06一、为什么 Python 成了统计分析的主流工具 十年前做统计分析，主流选择是 SPSS、SAS、Stata。现在越来越多的研究者、分析师转向 ...
2026-11-06核心资源推荐 CDA教材（2025）：https://edu.cda.cn/goods/show/3151CDA模拟题（2025）：https://edu.cda.cn/goods/show/2845CD ...
2026-11-06“大学生必备证书有哪些”最容易被答成一张越长越好的清单。但校招筛选的真实逻辑是：证书要对应你投的岗位任务，并且在校期间确 ...
2026-11-05
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
