AI预测天气的新方法:‘数字天气Token’与强化学习的结合

正在用数字Token分析地球大气状态的AI天气预测系统概念可视化
AI Summary

WeatherCraft结合了离散天气Token与强化学习,革命性地提升了全球中短期天气预测的准确度与速度。

想象一下,周末你和家人打算去露营,打开天气App,天气预报显示“降雨概率30%”。但由于无法准确知道雨何时倾盆而下、风会有多大,每个人大概都有过那种感到郁闷的经历。天气是左右我们生活计划的最重要的自然现象,但长期以来,全球中短期天气预测为了解开复杂的大气动力学,一直在巨大的超级计算机资源和时间中苦苦挣扎 [Source 1, Source 6]。

打个比方,解读宏大的大气流动,就像是在蒙上眼睛的情况下拼凑由数百万个碎片组成的立体拼图。传统方法一直依赖基于物理方程逐一模拟大气状态的数值天气预报(NWP,Numerical Weather Prediction) [Source 20]。然而,天气本质上蕴含着不确定性,比起斩钉截铁地预测单一未来,同时观察多种可能性的概率预测是不可或缺的 [Source 1, Source 15]。最近,一个彻底颠覆这种天气预测格局的全新人工智能框架诞生了。这就是由李金汉(Jinhan Li)等研究团队开发的 WeatherCraft [Source 1, Source 6]。


为什么这很重要?

天气预测不仅关乎是否带伞。提前检测并预警台风、酷暑等极端气象事件,是保护无数生命和财产的直接通道 [Source 1, Source 6]。此外,在预测可再生能源发电量、制定农业计划等各种社会与经济决策中,准确的中短期天气预报都扮演着核心角色 [Source 1, Source 15]。

简而言之,准确的天气预测是现代社会的防护网。然而,以往基于机器学习的天气模型偏向于只输出单一结果的确定性方式 [Source 18],或者在生成多种场景时存在运算速度太慢的局限性。WeatherCraft将对话式大语言模型(LLM,Large Language Model,理解并生成人类语言的AI结构)理解世界的方式原封不动地移植到天气预测中,从而开辟了一条能够同时快速、准确地呈现多种未来天气场景的道路 [Source 1, Source 2]。这具有彻底改变我们应对因气候变化而日益难以预测的极端天气方式的潜力。


轻松理解:解读大气的“数字Token”与定制化学习法

那么,WeatherCraft是如何让AI完美吸收复杂的大气状态的呢?核心原理大致分为两部分。第一是离散天气Token(Discrete Weather Tokens)与多尺度分词器(Tokenizer),第二是强化学习对齐(Reinforcement Learning Alignment) [Source 1]。

1. 像拼图碎片一样对待巨大的地球:多尺度分词器

如果把巨大的地球大气状态原封不动地塞给AI,AI就会因巨大的信息量而“消化不良”。这类似于为了在智能手机上流畅观看高清电影文件而对其进行压缩。WeatherCraft的多尺度分词器(Multiscale Tokenizer)将大气状态细分为从粗糙(Coarse)到精细(Fine)的层级Token形态 [Source 1]。

试想一下拼拼图的过程。首先用大的拼图块拼出整体大气的宏观流向(大致的气压分布和巨大的云带),然后在其上放置精细的碎片,以填补局部地区的风向流动或微小的温度变化 [Source 1]。在此过程中投入Transformer(解析句子或数据中各要素相互关系的核心AI架构),对时间流逝和空间尺度上的因果关系进行建模,并并行预测各个尺度内的Token [Source 1]。

2. 通过模拟考试磨炼实力的方法:GRPO与强化学习

第二个秘密在于学习方式。正如人类先学习基础概念(预训练,Pretraining),然后通过做无数模拟题纠正错误并经历后训练(Post-training)一样,WeatherCraft也完全遵循这一学习范式 [Source 1, Source 2]。

研究团队引入了名为GRPO(Group Relative Policy Optimization,群体相对策略优化)的最新强化学习技术 [Source 1]。借助这一利用直接的Token对数概率(Log-probabilities,选择每个Token概率的对数值)的技术,在评估AI预测结果与实际天气的契合度时,无需经过复杂且缓慢的外部评估模型,就能直接最大化下游任务的奖励(Reward) [Source 1]。也就是说,AI通过自主判断哪种预测更准确、更有用,来神速提升其实力。


当前现状:用数字证明的压倒性性能与速度

新的点子在实际应用场景中到底有多大效果,人们自然会产生好奇。研究团队通过全球气象数据标准基准ERA5数据集,对WeatherCraft的性能进行了彻底验证 [Source 1]。

结果令人鼓舞。

  • 预测准确度提升:WeatherCraft的8成员集成平均(Ensemble Mean,综合多个预测结果的平均值)将第15天(Day-15)归一化均方根误差(RMSE,衡量预测值与实际值误差的统计指标)较作为最强有力对比对象的确定性基线降低了17.6% [Source 1]。
  • 速度创新:在应用KV缓存(KV Caching,复用之前计算的键-值数据以消除重复计算并提高速度的技术)时,相比原有模型GenCast,实现了约18倍的推理速度提升 [Source 1]。

此外,通过直接的fair-CRPS(Continuous Ranked Probability Score,评估概率预测准确度的标准评分方法)自适应方式,集成的概率预测技术得到了整体提升;通过基于奖励的后训练,陆地极端温度(Land Temperature Extremes)和海气耦合极端热浪(Coupled Ocean Heat Extremes)的预测能力得到了显著改善 [Source 1]。打个比方,这不仅是拼凑出森林的大致轮廓,更是具备了不放过森林角落里的火星或热量、将其精准捕捉的能力。这表明WeatherCraft能够成为捕捉威胁人类安全的极端酷暑或海面温度异常现象的有力武器 [Source 1]。


未来会怎样?

WeatherCraft提出的“基于离散Token的自回归建模(Discrete Autoregressive Modeling)”不仅局限于天气预测 [Source 1]。它还可以成为涵盖整个地球系统的、各种物理现象(大气、海洋、陆地等)错综复杂的跨圈层(Cross-sphere)耦合模拟的通用基础 [Source 1]。

未来,我们将大步迈入这样一个时代:降低各个气象机构对庞大超级计算机的依赖,在普通服务器环境中也能实时生成多样且精致的概率气象集成场景 [Source 1]。当计划周末露营时,AI将不再提供诸如“降雨概率30%”的模糊数字,而是轻松为你呈现几十种模拟的精密未来大气场景。


AI的视角

将生成式AI的分词范式与强化学习相结合,引入曾被视为复杂物理定律领域的气象学,WeatherCraft的这一尝试是超越学术边界的实用性胜利。与其说是单纯的计算加速,不如说是展示了AI如何为预测极端气候这一人类共同难题提供实质性解答的典范里程碑。


参考资料

  1. Reinforcement-Aligned Probabilistic Weather Forecasting with Discrete Tokens
  2. Reinforcement-Aligned Probabilistic Weather Forecasting with …
  3. Advancing subseasonal forecasting with machine learning
  4. WeatherCraft/configs at main · Jinhan-Li/WeatherCraft · GitHub
  5. Probabilistic Weather Forecasting System for Enhanced …
  6. [Probabilistic Weather Forecasting and Ensemble Prediction… Nature](https://www.nature.com/subjects/probabilistic-weather-forecasting-and-ensemble-prediction-systems)
AD
测试你的理解
Q1. WeatherCraft在全球中短期天气预测中引入的核心范式是什么?
  • GPT风格的预训练与后训练范式
  • 传统的基于物理定律的单一模拟
  • 固定的单一确定性预测模型
WeatherCraft通过离散天气Token与强化学习对齐,将GPT风格的预训练-后训练范式引入了全球中短期天气预测中。
Q2. 相比于传统的GenCast,WeatherCraft在使用KV缓存时达到的推理速度提升倍数大约是多少?
  • 约5倍
  • 约10倍
  • 约18倍
在应用KV缓存的情况下,WeatherCraft相比GenCast实现了约18倍的推理速度提升。
Q3. WeatherCraft为了最大化下游任务奖励而采用的优化技术是什么?
  • GRPO (Group Relative Policy Optimization)
  • 基于CNN的图像卷积
  • 随机蒙特卡洛模拟
通过利用直接的Token对数概率的GRPO(Group Relative Policy Optimization),无需经过评估器或组合模型即可最大化下游任务奖励。