京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据了解气候变化:它们是怎样运作的
气候变化确实威胁着我们的星球,全球都应感受到它的毁灭性后果。美国航空航天局(NASA)气候模拟中心(NCCS)高性能计算负责人Daniel Duffy博士,介绍了大数据对气候变化研究工作的至关重要性。
NCCS为大规模的NASA科学项目提供高性能计算、存储和网络资源。其中许多项目涉及全地球性天气和气候模拟。这些模拟生成的海量数据是科学家永远读取不完的。因此,益发有必要提供分析和观察这些模拟产生的大数据集的方法,更深入了解气候变化等重大科学问题。
大数据和气候变化:它们是怎样运作的?
大数据和气候研究息息相关;没有海量数据就无法进行气候研究。
NCCS拥有名曰“探索号超级计算机”的计算机集群,主要目标是提供必要的高性能计算和存储环境,以满足NASA科学项目的需求。探索号计算机正在开展一系列不同的科学项目,其中的大部分计算和存储资源被用于天气与气候研究。
探索号计算机是一种高性能计算机,专门为极大规模紧密耦合的应用而设计,是硬软件紧密结合和相互依存的系统。虽然该计算机没有被用于从卫星等遥感平台采集数据,但该计算机运行的许多大气、陆地和海洋模拟都需要观测数据的输入。使用探索号计算机的科学家不断收集输入其模型的全球性观测数据。
然而,如果科学无法以有效手段观测和比对数据,即使向它们提供海量数据也毫无意义。NASA全球建模和模拟办公室(GMAO)增强性动画就是这方面的范例,该办公室利用多方来源的观测信息驱动天气预报。
GMAO的GEOS-5数据模拟系统(DAS)将观测信息与建模信息融合,以生成任何时间内都最为精确和质地统一的大气图像。每6小时的累计观测超过500万次,并对气温、水、风、地表压力和臭氧层的变量进行比对。模拟观测分八大类型,每类对不同来源的变量进行测量。
数据处理
气候变化模型需要具有大量存储和数据快速接入且数据不断增加的计算资源。为满足这一要求,探索号计算机由多个不同类型的处理器组成:79200个英特尔Xeon核心、28800个英特尔Phi核心和103680个Nvidia图像处理器(GPU)CUDA核心。
探索号计算机的总计算能力为3.36万亿次,或每秒3,694,359,069,327,360次浮点运算。为使大家更好地理解这一规模的计算能力,该计算机可在一秒钟内完成活在世上的每个人以每秒将两个数字相乘的速度连续运算近140个小时的运算量。
除了计算能力外,探索号计算机还具有约33拍字节(petabyte)的磁盘存储空间。典型的家庭硬盘容量为一兆兆(terabyte)字节,因此,该计算机的存储能力相当于33000个这类磁盘。如果用它存储音乐,你可以编排一个长度超过67000年而不重复的演奏清单。
NCCS每年都对探索号计算机进行升级。随着其服务器和存储的老化,在四或五年后替换而不是继续运行部分设备实际上能够提高效率。例如2014年年底至2015年年初利用升级的计算机群取代了探索号计算机2010年升级的设备。在地面空间、功率和冷却包络相同的情况下,升级后的NCCS可将计算能力提高约7倍。退役设备通常会转变用途,用于内部支持和其他业务或大学等外部站点,包括马里兰大学巴尔的摩分校(UMBC)和乔治梅森大学(GMU)。
数据映射:气候变化与预测
NCCS生成的数据推动了不同重要研究和政策文件的起草工作。
这一数据使人们能够就我们星球的气候变化影响进行更知情的对话,并有助于决策机构针对气候预测制定出适用战略与行动。例如,该数据已被用于气候变化专门委员会(IPCC)推出的评估报告。NCCS从事和NASA科学可视化工作室观测的数据模拟,介绍了IPCC第五次评估报告提出的气候模型,对气候和降雨预计在整个21世纪的变化方式做了说明。
于2005年袭击了美国墨西哥湾沿岸的卡特里娜飓风突显了准确预报的重要性。虽然它造成了巨大损失,但要不是预警预报给人们留出了适当准备时间,损失就会严重得多。如今,NCCS的超级计算机主要负责GMAO全球环流建模,其分辨率比卡特里娜飓风时提高了10倍,因而能够更准确地观察飓风内部,并有助于对其强度和规模做出更精确的估计。这意味着气象学家能够更深入地了解飓风的走向及其内部活动,这对于就卡特里娜飓风这类极端天气做出成功规划和准备至关重要。
此外,观测系统模拟试验(OSSE)还利用全球气候模型的输出成果模拟NASA提出的下一代遥感平台,从而向科学家和工程师提供了虚拟地球,以便在制作新的感应器或卫星之前研究大气遥测的新优势。
未来的气候变化数据
数据是NASA的主要产品。卫星、仪表、计算机甚至人员都可能频繁进出NASA,但数据尤其是地球观测数据具有永驻价值。因此,NASA必须不仅让其他NASA的站点和科学家,而且要让全球都用上它生成的数据。
仅时时生成的数据量就构成了一大挑战。在研究系统的科学家都难以使用数据集的今天,NASA以外的人们获得可用数据更是难上加难。因此,我们开始研究创建一项气候分析服务(CAaaS),将高性能计算、数据和应用编程接口(API)相结合,以便为在现场与数据共同运行的分析程序提供接口。换句话说,用户可就他们关心的问题提问,并利用NASA系统的运行进行分析,随后将分析结果返回用户。由于分析结果的规模小于生成它的原始数据,这一系统将减少经不同网络传送的数据量,而更重要的是,API可以大大减少用户和数据间的摩擦。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
【核心关键词】主数据、资产、供应商、现金流、企业、精细化、集团、数字化、中国、数据质量、数据管理、经营管理、地产行业、 ...
2026-06-24在数据分析、假设检验、AB测试、学术研究等统计场景中,显著水平(α)与P值(P-value)是判断统计结果是否具有统计学意义的两个 ...
2026-06-24小李刚入职了一家互联网公司的运营部门。第一次参加业务复盘会,运营主管问了一个看似简单的问题:“这个月新用户留存率下降了5 ...
2026-06-24在数字化转型全面渗透的产业背景下,数据分析已成为互联网、金融、零售、制造等几乎所有行业的核心岗位能力。很多初学者对数据分 ...
2026-06-23在企业并购、股权定价、投融资评估、资产核算等资本市场核心场景中,市场法是应用最广泛、市场认可度最高的企业价值评估方法。传 ...
2026-06-23 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-06-23【核心关键词】运营、证书、金融、客户、产品、软件、销售额、量化、科技、数据分析、金融行业、证券类软件、业务流程、金融机 ...
2026-06-22在企业方案选型、产品迭代评审、供应商筛选、运营效果复盘等决策场景中,单一指标的优劣判断往往无法支撑科学决策。一套转化效果 ...
2026-06-22 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-06-22【核心关键词】软件、洞察力、大数据、产品、经验、硬件、流量、创新、决策、数据安全、网络安全、数据分析、决策制定、数据挖 ...
2026-06-18在方案选型、效果复盘、产品评估、供应商筛选等各类业务决策场景中,仅凭单一指标下结论往往会陷入 “以偏概全” 的误区。多维度 ...
2026-06-18 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-06-18在数据分析、用户运营与业务增长的工作体系中,漏斗拆解是最基础也最高频的问题定位方法。很多业务场景下,我们只能看到最终的转 ...
2026-06-17在数据库开发、数据清洗与报表统计场景中,数值类型转换为日期是高频刚需操作。业务系统常以 Unix 时间戳、整型日期(如20240617 ...
2026-06-17 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-06-17【核心关键词】数据库、电商、知识、产品、数据产品、监管业务、产品经理、业务系统、用户行为分析、用户分析、数据分析、电商 ...
2026-06-16在 Python 动态类型与面向对象的编程体系中,变量定义与类实例化是构建代码逻辑的两大核心基石。变量是数据存储、传递与运算的基 ...
2026-06-16 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据和表结构数据有什么区别”“数据类型误判会引发哪些分析错误” ...
2026-06-16在 MySQL 查询性能优化体系中,索引是降低查询耗时、提升数据库吞吐的核心手段。其中联合索引与覆盖索引是实际开发中最高频的两 ...
2026-06-15在数据仓库建设与商业智能分析体系中,维度建模是应用最广泛的建模方法论,而事实表与维度表是维度建模的两大核心构件,共同构成 ...
2026-06-15