京公网安备 11010802034615号
经营许可证编号:京B2-20210330
Storm常见问题及解决方案总结
Storm 是一个开源的、大数据处理系统,与其他大数据解决方案的不同之处在于它的处理方式。Hadoop 在本质上是一个批处理系统。数据被引入 Hadoop 文件系统 (HDFS) 并分发到各个节点进行处理。当处理完成时,结果数据返回到 HDFS 供始发者使用。Storm 支持创建拓扑结构来转换没有终点的数据流。不同于 Hadoop 作业,这些转换从不停止,它们会持续处理到达的数据。
1、storm集群配置JDK环境变量问题
问题分析:在linux系统下配置JDK后一般修改/etc/profile值进行环境变量配置,但是安装storm集群时会出现问题
问题解决:需要在/etc/.bashrc文件中也加入环境变量不然安装的JDK无法使用。
2、supervisor相关问题
1)安装后supervisor名称相同并且启动报错问题
问题分析:supervisor.cji中有行代码如下:
|
1
|
|
此代码是在启动supervisor时会找本机的hostname。
问题解决:修改每天机器的hostname与其相对应即可。
2)启动Supervisor 时,出现java.lang.UnsatisfiedLinkError异常
具体错误信息如下:
|
1
2
3
|
启动Supervisor 时,出现java.lang.UnsatisfiedLinkError:
/usr/local/lib/libjzmq.so.0.0.0: libzmq.so.1: cannot open shared object
file: No such file or directory 异常。
|
问题分析:未找到zmq 动态链接库。
问题解决1:配置环境变量 export LD_LIBRARY_PATH=/usr/local/lib
问题解决2:编辑/etc/ld.so.conf 文件,增加一行:/usr/local/lib,再次执行即可
使用sudo ldconfig 命令,重启Supervisor
3、发布topologies时,序列化log4j.Logger异常
问题分析:日志系统无法正确正确处理序列化操作
问题解决:使用slf4j替换log4j日志jar包处理
4、提交topology时出现如下异常:
|
1
2
3
4
5
6
|
Exception in thread "main" java.lang.IllegalArgumentException: xxx host is not set
at backtype.storm.utils.NimbusClient.(NimbusClient.java:30)
at backtype.storm.utils.NimbusClient.getConfiguredClient(NimbusClient.java:17)
at backtype.storm.StormSubmitter.submitJar(StormSubmitter.java:78)
at backtype.storm.StormSubmitter.submitJar(StormSubmitter.java:71)
at backtype.storm.StormSubmitter.submitTopology(StormSubmitter.java:50)
|
问题分析:启动nimbus没有问题,异常原因是conf_dir路径设置错误
问题解决:修改bin/storm脚本,增加如下代码:
|
1
|
CONF_DIR = STORM_DIR + "/conf"
|
5、在使用storm0.7一下版本时,时间长会出现outofmenmory
问题分析:低于storm0.7版本的没触发一个tuple会创建一个hashmap存储该tuple所在的消息树结构,长时间会给gc造成巨大的压力导致出现outofmemory
问题解决:升级storm版本即可解决问题。
6、storm连接mysql数据库报异常
|
1
|
message from server:"Host FILTER" is not allowed to connect to this MySQL server
|
问题分析:可能是没有给其IP访问Mysql数据库权限导致
问题解决:登录mysql数据库,执行如下命令:
|
1
|
grant all on *.* to root@'%' identified by "123456";
|
此操作是给任意IP地址赋予访问权限(命令中*.*是通配任何IP,可指定IP 用户名:root 密码:123456)
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在游戏产业的商业逻辑中,付费玩家是支撑游戏生存与发展的核心支柱。行业普遍遵循 “二八定律”:20% 的付费玩家贡献了游戏 80% ...
2026-06-11【核心关键词】企业、定位、传统、产品、互联网、可视化、业务侧、数字化、结构化、数据分析、传统制造业、市场状态、发展空间 ...
2026-06-11 解读《CDA二级教材:量化策略分析(2025)》的全景结构与学习逻辑 ” CDA二级认证是企业招聘数据分析师时最常提及的证书门槛 ...
2026-06-11【核心关键词】药企、可视化、营销、分类、数据分析师、销售数据、业务人员、指导方向、分析报告、营销数据、营销医生 【专访摘 ...
2026-06-10在统计学分析、问卷调研、实验验证、业务复盘等场景中,卡方检验与 T 检验是应用最广泛的两类基础假设检验方法。前者专门处理分 ...
2026-06-10 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-06-10在MySQL数据库日常查询、数据统计、后台接口开发、数据导出等场景中,开发者经常需要查询数据表除某几列之外的所有字段。例如查 ...
2026-06-09在Python网络请求、爬虫开发、接口测试、数据抓取等实操场景中,requests库是最常用的第三方请求工具,而content属性是requests ...
2026-06-09 数据分析正在重塑每一个行业。CDA认证的三本官方教材,分别对应Level I、Level II、Level III,为你铺就从业务数据分析到数 ...
2026-06-09在数字财务、智慧财税、业财融合深度推进的当下,传统财务模式下数据标准混乱、业务流程碎片化、知识无法沉淀、系统互通性差等问 ...
2026-06-08随着数字经济深度渗透各行各业,数据正式成为继土地、劳动力、资本、技术之后的第五大生产要素,是企业数字化转型、精细化运营、 ...
2026-06-08 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-06-08【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-05在数据库数据查询、业务报表统计、多表关联分析中,LEFT JOIN左连接是使用率最高的SQL关联查询语句。其核心特性是保留左表全部数 ...
2026-06-05 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-06-05任何一款产品从诞生、普及到最终退出市场,都会遵循一套固定的发展规律,这就是产品生命周期理论。在市场竞争日益激烈、产品迭代 ...
2026-06-04在Excel数据分析、办公统计、业务报表制作场景中,数据透视表是数据汇总、分类统计、快速复盘的核心工具,能够高效完成海量原始 ...
2026-06-04 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-06-04在问卷调查与社会科学数据分析中,卡方检验是最常用、最基础的非参数检验方法,广泛应用于市场调研、用户分析、行为统计、满意度 ...
2026-06-03【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-03