gracejpw1117

2020-07-22   阅读量: 794

大数据 flume

关于Flume拦截器

扫码加入数据分析学习群

1)拦截器注意事项

项目中自定义了:ETL拦截器。

采用拦截器的优缺点:优点,模块化开发和可移植性;缺点,性能会低一些

2)自定义拦截器步骤

(1)实现 Interceptor

(2)重写四个方法

Ø initialize 初始化

Ø public Event intercept(Event event) 处理单个Event

Ø public List<Event> intercept(List<Event> events) 处理多个Event,在这个方法中调用Event intercept(Event event)

Ø close 方法

(3)静态内部类,实现Interceptor.Builder

3)拦截器可以不用吗?

可以不用;需要在下一级hive的dwd层和sparksteaming里面处理

优势:只处理一次,轻度处理;劣势:影响性能,不适合做实时推荐这种对实时要求比较高的场景。


添加CDA认证专家【维克多阿涛】,微信号:【cdashijiazhuang】,提供数据分析指导及CDA考试秘籍。已助千人通过CDA数字化人才认证。欢迎交流,共同成长!
25.3511 2 2 关注作者 收藏

评论(0)


暂无数据

推荐课程

推荐帖子