京公网安备 11010802034615号
经营许可证编号:京B2-20210330
物联网数据分析何时迎娶超级计算机?
物联网的设备和传感器会产生许多数据,分析这些数据获取可行性见解将会有远大的发展前景。
在许多企业满足于使用小额的投资,慢条斯理地进行数据分析的同时,那些需要进行及时和复杂的数据分析的企业正从超级计算机工业的快速成长和进步中获益。
来自于Cray公司高级副总裁兼首席策略官Barry Bolding的建议:当数据分析的时效性是关键因素时,企业应该考虑选择超级计算资源方案来进行数据分析。
Bolding 说:“假设你要将物联网的数据快速输入模拟器或者数据模型,及时得到输出数据时,在这种应用场景下,使用Cray资源(超级计算资源)而不是云资源可以非常有效的消除系统的瓶颈。”
这是一个重要的区别,因为许多企业的首选是云计算解决方案,即便数据分析速度的对于他们来说比较重要,他们认为有着更快的时效性的超级计算意味着更高的成本。
然而,据IDC公司分析师Steve Conway分析,企业之所以做出这样的判断,是因为他们没有充分认识到高性能的计算资源给他们带来的成本收益的权衡。Conway认为:”即便在大公司,他们对于超级计算机的观念已经过时了。”
当然这并不是说每个企业都要用超级计算机来进行物联网的数据分析。最终,需要极快地分析数据的企业将会选择超级计算机,与此同时,那些对物联网数据分析的时效性要求不高的企业可以放心地选择基于云计算的方案。
Cray成立于1972年,是世界上历史悠久,规模最大的超级计算机提供商之一,它占有31%的市场份额,世界上10台最强的超级计算机有5台是它制造的。
这些年Cray公司和超级计算机市场总体发展艰难,受到了高性能、低成本的小型计算机的冲击。但是最近这个形势发生了变化。“市场开始分裂了,而且持续进行分裂,这因为更多的企业购买超级计算机,而不是只有政府部门。”Conway说。
他表示,曾经动辄数百万美金,只有少数的政府机构使用的超级计算机,现在80%的超级计算机成本已经低于100,000美元。
这使得许多的企业能够购买得起这些超级计算机。尽管从成本经济的角度考虑,不同的用户使用场景对超级计算机的青睐程度有着巨大的不同。
物 联网就是一个非常合适使用超级计算机的用户场景。因为它会产生大量的数据。但是不同的企业对物联网有着不同的使用方式,这个使得我们很难划定一个清晰的界 限决定什么时候应该使用超级计算资源。在大多数的情况下,一些公司可以接受等待一段较长时间的数据分析报告,然而对于其他的公司来说,数据分析的时效性是 日常工作中至关重要的部分。
例如连网汽车,它依靠大量的交通数据来回传递来进行操作。超级计算机将从每个连网的汽车获取交通数据,经过实时交通数据管理平台分析上传来的数据,然后回传路线信息给相应的汽车。
如果分析不是实时进行,回传给汽车的线路信息总是慢于移动中的汽车,那么这些信息对于行进中的汽车是毫无用处的。所以Conway认为这就是为什么交通数据分析是典型的使用超级计算机的用户场景,因为它完全依赖于实时的数据分析洞察。
对于时效性的要求是确定某一个用户场景是否需要超级计算机的决定因素。Bolding总结了三个标准来说明什么情况下需要超级计算机。
Bolding 认为从长期的使用的角度来看,一次性投资超级计算机的解决方案和每个月须付高额的服务费的云方案相比较,超级计算机的成本更便宜。
这是基于Cray公司内部成本预测模型进行的分析,还未公布于众,对其正确性持有保留的观点。但是Conway认同还是有些用户场景选择采用超级计算机,可以取得成本效益率的最大化。
有大量的用户场景是不符合Bolding使用超级计算机的标准,例如商店用来追踪用户进进出出的传感数据就不需要超级计算机。Bolding在一定程度上也认同这样的情形。
Bolding说: “对于很多的物联网应用来说,分析速度并不是关键, 所以我们对中小企业的用户还没进行推广使用超级计算机”
但是有趣的是有些公司尽管切合Bolding使用超级计算机的标准,他们仍然没有选择使用超级计算机。
例 如,虽然GE公司在它的科研中有使用超级计算资源,但是GE公司的一定数量的应用仍是依赖于基于云的Predix engine分析其物联网感应器产生的数据。GE公司很多部门每天都在使用Predix来进行数据分析。他们并没有感受到更快处理速度的超级计算机因高投 资带来的高效益。
“依我们观察,大部分的用户场景并不需要额外的计算能力”, GE运输软件首席技术官Wesley Mukai说,”目前我们还没有看到需要更多计算能力的应用。”
Mukai说依赖于云会给开发带来了一定的困难,程序员需要修复当某个组件宕机的情况,但是成本经济学要求他们只能采用云解决方案。
Conway认为实际情况也许不是这样的,他认为真正的原因是缺乏对当今超级计算机能力和成本有个清晰的认识。 Conway说: “在那些已经开始使用超级计算机的公司中,有很大一部分的公司之前就有使用超级计算资源。”
然而,Conway又说了:”你不必过度采购, 即便人们不使用超级计算机来处理大量的数据,事情还是照样的做。”
事实上,云解决方案很适合大数据的使用场景,Conway以诺华制药公司为例解释,这家公司就使用Amazon Web Services在4个小时的时间内分析2千1百万个分子。
Conway 认为这不是物联网的使用场景, 但是这是一个很好的运用云计算解决方案的例子。因为每个测试分子任务都有自己独立的进程,即便一个组件宕机了,整个分析任务不需要重现启动。而且诺华公司 只需要支付一定金额大概20,000美元就可以完成这些测试,如果可以耐心等待更长的时间输出分析结果,他们将付的更少。
关键的因素是分析速度。云可以处理大量数据,在一定程度上也可以处理复杂问题,但是如果分析速度是关键因素,公司期望在几分钟或者几秒钟而不是4个小时或者1个小时内获取答案,那么我们就需要超级计算机的解决方案。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中,LSTM(长短期记忆网络)凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑:用 ...
2025-12-01引言:数据时代的“透视镜”与“掘金者” 在数字经济浪潮下,数据已成为企业决策的核心资产,而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27