京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据怎样帮助我们了解气候变化
气候变化确实威胁着我们的星球,全球都应感受到它的毁灭性后果。美国航空航天局(NASA)气候模拟中心(NCCS)高性能计算负责人Daniel Duffy博士,介绍了大数据对气候变化研究工作的至关重要性。
NCCS为大规模的NASA科学项目提供高性能计算、存储和网络资源。其中许多项目涉及全地球性天气和气候模拟。这些模拟生成的海量数据是科学家永远读取不完的。因此,益发有必要提供分析和观察这些模拟产生的大数据集的方法,更深入了解气候变化等重大科学问题。
大数据和气候变化:它们是怎样运作的?
大数据和气候研究息息相关;没有海量数据就无法进行气候研究。
NCCS拥有名曰“探索号超级计算机”的计算机集群,主要目标是提供必要的高性能计算和存储环境,以满足NASA科学项目的需求。探索号计算机正在开展一系列不同的科学项目,其中的大部分计算和存储资源被用于天气与气候研究。
探索号计算机是一种高性能计算机,专门为极大规模紧密耦合的应用而设计,是硬软件紧密结合和相互依存的系统。虽然该计算机没有被用于从卫星等遥感平台采集数据,但该计算机运行的许多大气、陆地和海洋模拟都需要观测数据的输入。使用探索号计算机的科学家不断收集输入其模型的全球性观测数据。
然而,如果科学无法以有效手段观测和比对数据,即使向它们提供海量数据也毫无意义。NASA全球建模和模拟办公室(GMAO)增强性动画就是这方面的范例,该办公室利用多方来源的观测信息驱动天气预报。
GMAO的GEOS-5数据模拟系统(DAS)将观测信息与建模信息融合,以生成任何时间内都最为精确和质地统一的大气图像。每6小时的累计观测超过500万次,并对气温、水、风、地表压力和臭氧层的变量进行比对。模拟观测分八大类型,每类对不同来源的变量进行测量。
数据处理
气候变化模型需要具有大量存储和数据快速接入且数据不断增加的计算资源。为满足这一要求,探索号计算机由多个不同类型的处理器组成:79200个英特尔Xeon核心、28800个英特尔Phi核心和103680个NVIDIA图像处理器(GPU)CUDA核心。
探索号计算机的总计算能力为3.36万亿次,或每秒3,694,359,069,327,360次浮点运算。为使大家更好地理解这一规模的计算能力,该计算机可在一秒钟内完成活在世上的每个人以每秒将两个数字相乘的速度连续运算近140个小时的运算量。
除了计算能力外,探索号计算机还具有约33拍字节(petabyte)的磁盘存储空间。典型的家庭硬盘容量为一兆兆(terabyte)字节,因此,该计算机的存储能力相当于33000个这类磁盘。如果用它存储音乐,你可以编排一个长度超过67000年而不重复的演奏清单。
NCCS每年都对探索号计算机进行升级。随着其服务器和存储的老化,在四或五年后替换而不是继续运行部分设备实际上能够提高效率。例如2014年年底至2015年年初利用升级的计算机群取代了探索号计算机2010年升级的设备。在地面空间、功率和冷却包络相同的情况下,升级后的NCCS可将计算能力提高约7倍。退役设备通常会转变用途,用于内部支持和其他业务或大学等外部站点,包括马里兰大学巴尔的摩分校(UMBC)和乔治梅森大学(GMU)。
数据映射:气候变化与预测
NCCS生成的数据推动了不同重要研究和政策文件的起草工作。
这一数据使人们能够就我们星球的气候变化影响进行更知情的对话,并有助于决策机构针对气候预测制定出适用战略与行动。例如,该数据已被用于气候变化专门委员会(IPCC)推出的评估报告。NCCS从事和NASA科学可视化工作室观测的数据模拟,介绍了IPCC第五次评估报告提出的气候模型,对气候和降雨预计在整个21世纪的变化方式做了说明。
于2005年袭击了美国墨西哥湾沿岸的卡特里娜飓风突显了准确预报的重要性。虽然它造成了巨大损失,但要不是预警预报给人们留出了适当准备时间,损失就会严重得多。如今,NCCS的超级计算机主要负责GMAO全球环流建模,其分辨率比卡特里娜飓风时提高了10倍,因而能够更准确地观察飓风内部,并有助于对其强度和规模做出更精确的估计。这意味着气象学家能够更深入地了解飓风的走向及其内部活动,这对于就卡特里娜飓风这类极端天气做出成功规划和准备至关重要。
此外,观测系统模拟试验(OSSE)还利用全球气候模型的输出成果模拟NASA提出的下一代遥感平台,从而向科学家和工程师提供了虚拟地球,以便在制作新的感应器或卫星之前研究大气遥测的新优势。
未来的气候变化数据
数据是NASA的主要产品。卫星、仪表、计算机甚至人员都可能频繁进出NASA,但数据尤其是地球观测数据具有永驻价值。因此,NASA必须不仅让其他NASA的站点和科学家,而且要让全球都用上它生成的数据。
仅时时生成的数据量就构成了一大挑战。在研究系统的科学家都难以使用数据集的今天,NASA以外的人们获得可用数据更是难上加难。因此,我们开始研究创建一项气候分析服务(CAaaS),将高性能计算、数据和应用编程接口(API)相结合,以便为在现场与数据共同运行的分析程序提供接口。换句话说,用户可就他们关心的问题提问,并利用NASA系统的运行进行分析,随后将分析结果返回用户。由于分析结果的规模小于生成它的原始数据,这一系统将减少经不同网络传送的数据量,而更重要的是,API可以大大减少用户和数据间的摩擦。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据驱动决策的体系中,数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中,诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能,Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时,常常感到“知道要分析,却不知道用什么方法”。其实,数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中,自增ID是数据表最常用的主键字段,用于唯一标识每一条业务数据,正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中,平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中,最常 ...
2026-08-31在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24