291294878

2018-10-21   阅读量: 757

大数据

处理离线数据的流程?

扫码加入数据分析学习群

一般来说离线分析都是这个流程。

各流程概述:

1. 数据采集:定制开发采集程序,或使用开源框架FLUME

2. 数据预处理:定制开发mapreduce程序运行于hadoop集群

3. 数据仓库技术:基于hadoop之上的Hive

4. 数据导出:基于hadoop的sqoop数据导入导出工具

5. 数据可视化:定制开发web程序或使用kettle等产品

6. 整个过程的流程调度:hadoop生态圈中的oozie工具或其他类似开源产品

数据收集完成后,因为数据量非常大,后续的操作都是使用分布式程序进行处理。

添加CDA认证专家【维克多阿涛】,微信号:【cdashijiazhuang】,提供数据分析指导及CDA考试秘籍。已助千人通过CDA数字化人才认证。欢迎交流,共同成长!
35.1788 2 0 关注作者 收藏

评论(0)


暂无数据

推荐课程

推荐帖子