
大数据了解气候变化:它们是怎样运作的
气候变化确实威胁着我们的星球,全球都应感受到它的毁灭性后果。美国航空航天局(NASA)气候模拟中心(NCCS)高性能计算负责人Daniel Duffy博士,介绍了大数据对气候变化研究工作的至关重要性。
NCCS为大规模的NASA科学项目提供高性能计算、存储和网络资源。其中许多项目涉及全地球性天气和气候模拟。这些模拟生成的海量数据是科学家永远读取不完的。因此,益发有必要提供分析和观察这些模拟产生的大数据集的方法,更深入了解气候变化等重大科学问题。
大数据和气候变化:它们是怎样运作的?
大数据和气候研究息息相关;没有海量数据就无法进行气候研究。
NCCS拥有名曰“探索号超级计算机”的计算机集群,主要目标是提供必要的高性能计算和存储环境,以满足NASA科学项目的需求。探索号计算机正在开展一系列不同的科学项目,其中的大部分计算和存储资源被用于天气与气候研究。
探索号计算机是一种高性能计算机,专门为极大规模紧密耦合的应用而设计,是硬软件紧密结合和相互依存的系统。虽然该计算机没有被用于从卫星等遥感平台采集数据,但该计算机运行的许多大气、陆地和海洋模拟都需要观测数据的输入。使用探索号计算机的科学家不断收集输入其模型的全球性观测数据。
然而,如果科学无法以有效手段观测和比对数据,即使向它们提供海量数据也毫无意义。NASA全球建模和模拟办公室(GMAO)增强性动画就是这方面的范例,该办公室利用多方来源的观测信息驱动天气预报。
GMAO的GEOS-5数据模拟系统(DAS)将观测信息与建模信息融合,以生成任何时间内都最为精确和质地统一的大气图像。每6小时的累计观测超过500万次,并对气温、水、风、地表压力和臭氧层的变量进行比对。模拟观测分八大类型,每类对不同来源的变量进行测量。
数据处理
气候变化模型需要具有大量存储和数据快速接入且数据不断增加的计算资源。为满足这一要求,探索号计算机由多个不同类型的处理器组成:79200个英特尔Xeon核心、28800个英特尔Phi核心和103680个Nvidia图像处理器(GPU)CUDA核心。
探索号计算机的总计算能力为3.36万亿次,或每秒3,694,359,069,327,360次浮点运算。为使大家更好地理解这一规模的计算能力,该计算机可在一秒钟内完成活在世上的每个人以每秒将两个数字相乘的速度连续运算近140个小时的运算量。
除了计算能力外,探索号计算机还具有约33拍字节(petabyte)的磁盘存储空间。典型的家庭硬盘容量为一兆兆(terabyte)字节,因此,该计算机的存储能力相当于33000个这类磁盘。如果用它存储音乐,你可以编排一个长度超过67000年而不重复的演奏清单。
NCCS每年都对探索号计算机进行升级。随着其服务器和存储的老化,在四或五年后替换而不是继续运行部分设备实际上能够提高效率。例如2014年年底至2015年年初利用升级的计算机群取代了探索号计算机2010年升级的设备。在地面空间、功率和冷却包络相同的情况下,升级后的NCCS可将计算能力提高约7倍。退役设备通常会转变用途,用于内部支持和其他业务或大学等外部站点,包括马里兰大学巴尔的摩分校(UMBC)和乔治梅森大学(GMU)。
数据映射:气候变化与预测
NCCS生成的数据推动了不同重要研究和政策文件的起草工作。
这一数据使人们能够就我们星球的气候变化影响进行更知情的对话,并有助于决策机构针对气候预测制定出适用战略与行动。例如,该数据已被用于气候变化专门委员会(IPCC)推出的评估报告。NCCS从事和NASA科学可视化工作室观测的数据模拟,介绍了IPCC第五次评估报告提出的气候模型,对气候和降雨预计在整个21世纪的变化方式做了说明。
于2005年袭击了美国墨西哥湾沿岸的卡特里娜飓风突显了准确预报的重要性。虽然它造成了巨大损失,但要不是预警预报给人们留出了适当准备时间,损失就会严重得多。如今,NCCS的超级计算机主要负责GMAO全球环流建模,其分辨率比卡特里娜飓风时提高了10倍,因而能够更准确地观察飓风内部,并有助于对其强度和规模做出更精确的估计。这意味着气象学家能够更深入地了解飓风的走向及其内部活动,这对于就卡特里娜飓风这类极端天气做出成功规划和准备至关重要。
此外,观测系统模拟试验(OSSE)还利用全球气候模型的输出成果模拟NASA提出的下一代遥感平台,从而向科学家和工程师提供了虚拟地球,以便在制作新的感应器或卫星之前研究大气遥测的新优势。
未来的气候变化数据
数据是NASA的主要产品。卫星、仪表、计算机甚至人员都可能频繁进出NASA,但数据尤其是地球观测数据具有永驻价值。因此,NASA必须不仅让其他NASA的站点和科学家,而且要让全球都用上它生成的数据。
仅时时生成的数据量就构成了一大挑战。在研究系统的科学家都难以使用数据集的今天,NASA以外的人们获得可用数据更是难上加难。因此,我们开始研究创建一项气候分析服务(CAaaS),将高性能计算、数据和应用编程接口(API)相结合,以便为在现场与数据共同运行的分析程序提供接口。换句话说,用户可就他们关心的问题提问,并利用NASA系统的运行进行分析,随后将分析结果返回用户。由于分析结果的规模小于生成它的原始数据,这一系统将减少经不同网络传送的数据量,而更重要的是,API可以大大减少用户和数据间的摩擦。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Python HTTP 请求工具对比:urllib.request 与 requests 的核心差异与选择指南 在 Python 处理 HTTP 请求(如接口调用、数据爬取 ...
2025-09-12解决 pd.read_csv 读取长浮点数据的科学计数法问题 为帮助 Python 数据从业者解决pd.read_csv读取长浮点数据时的科学计数法问题 ...
2025-09-12CDA 数据分析师:业务数据分析步骤的落地者与价值优化者 业务数据分析是企业解决日常运营问题、提升执行效率的核心手段,其价值 ...
2025-09-12用 SQL 验证业务逻辑:从规则拆解到数据把关的实战指南 在业务系统落地过程中,“业务逻辑” 是连接 “需求设计” 与 “用户体验 ...
2025-09-11塔吉特百货孕妇营销案例:数据驱动下的精准零售革命与启示 在零售行业 “流量红利见顶” 的当下,精准营销成为企业突围的核心方 ...
2025-09-11CDA 数据分析师与战略 / 业务数据分析:概念辨析与协同价值 在数据驱动决策的体系中,“战略数据分析”“业务数据分析” 是企业 ...
2025-09-11Excel 数据聚类分析:从操作实践到业务价值挖掘 在数据分析场景中,聚类分析作为 “无监督分组” 的核心工具,能从杂乱数据中挖 ...
2025-09-10统计模型的核心目的:从数据解读到决策支撑的价值导向 统计模型作为数据分析的核心工具,并非简单的 “公式堆砌”,而是围绕特定 ...
2025-09-10CDA 数据分析师:商业数据分析实践的落地者与价值创造者 商业数据分析的价值,最终要在 “实践” 中体现 —— 脱离业务场景的分 ...
2025-09-10机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04