Storm常见问题及解决方案总结
Storm 是一个开源的、大数据处理系统，与其他大数据解决方案的不同之处在于它的处理方式。Hadoop 在本质上是一个批处理系统。数据被引入 Hadoop 文件系统 (HDFS) 并分发到各个节点进行处理。当处理完成时，结果数据返回到 HDFS 供始发者使用。Storm 支持创建拓扑结构来转换没有终点的数据流。不同于 Hadoop 作业，这些转换从不停止，它们会持续处理到达的数据。
1、storm集群配置JDK环境变量问题
问题分析：在linux系统下配置JDK后一般修改/etc/profile值进行环境变量配置，但是安装storm集群时会出现问题
问题解决：需要在/etc/.bashrc文件中也加入环境变量不然安装的JDK无法使用。
2、supervisor相关问题
1)安装后supervisor名称相同并且启动报错问题
问题分析：supervisor.cji中有行代码如下：
|
1
|
|
此代码是在启动supervisor时会找本机的hostname。
问题解决：修改每天机器的hostname与其相对应即可。
2)启动Supervisor 时，出现java.lang.UnsatisfiedLinkError异常
具体错误信息如下：
|
1
2
3
|
启动Supervisor 时，出现java.lang.UnsatisfiedLinkError:
/usr/local/lib/libjzmq.so.0.0.0: libzmq.so.1: cannot open shared object
file: No such file or directory 异常。
|
问题分析：未找到zmq 动态链接库。
问题解决1：配置环境变量 export LD_LIBRARY_PATH=/usr/local/lib
问题解决2：编辑/etc/ld.so.conf 文件，增加一行：/usr/local/lib，再次执行即可
使用sudo ldconfig 命令，重启Supervisor
3、发布topologies时，序列化log4j.Logger异常
问题分析：日志系统无法正确正确处理序列化操作
问题解决：使用slf4j替换log4j日志jar包处理
4、提交topology时出现如下异常：
|
1
2
3
4
5
6
|
Exception in thread "main" java.lang.IllegalArgumentException: xxx host is not set
at backtype.storm.utils.NimbusClient.(NimbusClient.java:30)
at backtype.storm.utils.NimbusClient.getConfiguredClient(NimbusClient.java:17)
at backtype.storm.StormSubmitter.submitJar(StormSubmitter.java:78)
at backtype.storm.StormSubmitter.submitJar(StormSubmitter.java:71)
at backtype.storm.StormSubmitter.submitTopology(StormSubmitter.java:50)
|
问题分析：启动nimbus没有问题，异常原因是conf_dir路径设置错误
问题解决：修改bin/storm脚本，增加如下代码：
|
1
|
CONF_DIR = STORM_DIR + "/conf"
|
5、在使用storm0.7一下版本时，时间长会出现outofmenmory
问题分析：低于storm0.7版本的没触发一个tuple会创建一个hashmap存储该tuple所在的消息树结构，长时间会给gc造成巨大的压力导致出现outofmemory
问题解决：升级storm版本即可解决问题。
6、storm连接mysql数据库报异常
|
1
|
message from server:"Host FILTER" is not allowed to connect to this MySQL server
|
问题分析：可能是没有给其IP访问Mysql数据库权限导致
问题解决：登录mysql数据库，执行如下命令：
|
1
|
grant all on *.* to root@'%' identified by "123456";
|
此操作是给任意IP地址赋予访问权限（命令中*.*是通配任何IP，可指定IP 用户名：root 密码：123456）
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
解析 loss.backward ()：深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中，loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题，需先明确 K-S 图的核心用途（检验样本分布与理论分布的一致性），再结合横轴 ...
2025-09-02CDA 数据分析师：助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下，数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战：基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中，税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX：租房系统数据库性能优化实践 在租房管理系统中，rent表是核心业务表之一，通常存储租赁订单信 ...
2025-09-01CDA 数据分析师：企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”， ...
2025-09-01数据清洗工具全景指南：从入门到进阶的实操路径 在数据驱动决策的链条中，“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化：以预测结果为核心的闭环调优路径 在机器学习模型落地中，“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程：协同落地数据驱动价值 在数据驱动决策的实践中，“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代，数据驱动决策已成为企业核心竞争力的关键要素。CDA（Certified Data Analys ...
2025-08-28CDA认证：数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据，当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28PCU：游戏运营的 “实时晴雨表”—— 从数据监控到运营决策的落地指南 在游戏行业，DAU（日活跃用户）、MAU（月活跃用户）是衡量 ...
2025-08-28Excel 聚类分析：零代码实现数据分群，赋能中小团队业务决策 在数字化转型中，“数据分群” 是企业理解用户、优化运营的核心手段 ...
2025-08-28CDA 数据分析师：数字化时代数据思维的践行者与价值推动者 当数字经济成为全球经济增长的核心引擎，数据已从 “辅助性信息” 跃 ...
2025-08-28ALTER TABLE ADD 多个 INDEX：数据库批量索引优化的高效实践 在数据库运维与性能优化中，索引是提升查询效率的核心手段。当业务 ...
2025-08-27Power BI 去重函数：数据清洗与精准分析的核心工具 在企业数据分析流程中，数据质量直接决定分析结果的可靠性。Power BI 作为主 ...
2025-08-27CDA 数据分析师：数据探索与统计分析的实践与价值 在数字化浪潮席卷各行业的当下，数据已成为企业核心资产，而 CDA（Certif ...
2025-08-27t 检验与 Wilcoxon 检验：数据差异比较的两大统计利器 在数据分析中，“比较差异” 是核心需求之一 —— 如新药疗效是否优于旧药 ...
2025-08-26季节性分解外推法：解锁时间序列预测的规律密码 在商业决策、资源调度、政策制定等领域，准确的预测是规避风险、提升效率的关键 ...
2025-08-26CDA 数据分析师：数据治理驱动下的企业数据价值守护者 在数字经济时代，数据已成为企业核心战略资产，其价值的释放离不开高 ...
2025-08-26
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
