AI大潮下，科学意义上的可解释性还重要吗？

天一色md5

下面的文章虽然讲的是AI大潮下统计学科被边缘化的问题，但对气象学科同样适用，例如基于大气物理学定律的传统数值模式正逐渐被AI数值模式所挑战。本来想发到“学术新知”的，后来想想发到这里更有利于大家展开讨论。以后有时间我再点评。

原文链接：https://hdsr.mitpress.mit.edu/pub/a7kmqk35/release/1

天一色md5

鼠相爷

原文看不懂，坐等你点评。

天一色md5

鼠相爷 发表于 2025-6-6 21:28
原文看不懂，坐等你点评。

我本来还想发一个Federated Learning对气象迷气象热情的影响，但又害怕大家不理解，其实通俗的讲就是以后郭嘉不再对外发布原始气象数据，只发布经过加工处理过的各种统计数据比如各种显著性水平、XX指数、年际变化率等等

天一色md5

以下内容也是用AI生成的：

近年来，人工智能，特别是深度学习技术在各个领域迅猛发展，甚至在一些传统由“科学原理主导”的领域也开始攻城略地。气象预测便是一个典型的例子。

众所周知，传统数值天气预报（NWP）模式是以大气物理学为基础，依靠流体力学、热力学、辐射、大气边界层理论等一整套经过科学验证的公式构建的系统。每一步计算、每一项参数设定，都有其物理依据。然而，随着 AI 模型（如基于深度学习的预测系统）的兴起，我们看到一种“黑箱模型”的趋势越来越强：它们往往无需明确的大气理论，只需大量历史数据喂入网络，就能得到颇具精度的预测结果。

这是否意味着， “科学意义上的可解释性”已经变得不那么重要？只要结果准确，背后是否符合科学原理就无所谓了？

其实早在 2017 年，SAMSI（统计与数学科学研究所）的一次讨论会上，就有专家提出这一问题：未来机器学习驱动的模式是否会最终胜出传统数值预报模式？当时的观点大多认为“两者各有千秋”，AI 模式在特定应用场景下可能表现更优，但无法完全替代物理模型。

而民间气象爱好者也早有自己的看法。我记得那几年，有一位叫 nzk 的气象迷认为，AI 的最大作用可能是作为人工订正的辅助工具，帮我们更智能地从数值预报结果中提取有用信息。当我问他，既然月尺度以上的气候预测在物理模型中因缺乏精确公式而捉襟见肘，AI 能否在这个领域大显身手？他答道： “也难。样本太少，学不出好东西。”但讽刺的是，如今 nzk 本人已开发出一个名为“坤舆”的 AI 数值预报模式，在不少情形下甚至不输传统的中尺度物理模式。

这说明，数据驱动的模型确实能挖掘出某些**“尚未被理论解释的规律”**。比如，按经典理论，厄尔尼诺/拉尼娜爆发对东亚气候的影响至少滞后几个月，原因是海温异常需要时间传播。然而现实中我们常看到，还未正式爆发，东亚的环流形势已有响应。传统理论对此束手无策，但 AI 可能会识别出一些我们尚未命名的共同因子，从而给出更早、更准确的预测。

但是，这种“效果先行”的策略也带来隐忧。科学进步的本质，是通过观察——假设——验证，去揭示自然规律，并逐步扩展我们的认知边界。如果我们越来越依赖“黑箱”预测而不追问其背后机制，是否意味着科学家将逐渐沦为“调参工人”？更别说，对很多气象爱好者来说，研究天气最大的魅力不正是那种“从纷繁现象中识别出隐藏规律”的乐趣吗？如果一切都变成了 TensorFlow 中的代码块、Python 脚本和多层神经网络，那还怎么体会四季变换、云卷云舒的神秘感和美感？

AI 模式可以非常强大，但它不应取代我们对“为什么”的追问。预测准确性很重要，但科学精神的核心始终在于解释世界、理解自然、发现规律。

AI 也许可以胜出，但科学不该失语。

Threebodyman

本人是相关领域从业者，研究生期间读的是AI相关方向，可以来答一波：
其实AI所谓的从历史数据中学习到的“模式”，有利也有弊。有利的一面就是，它通常能通过对历史数据的深度挖掘后找到的隐藏范式，提高预报的准确度。但是它其实也有一些担忧，那就是如果未来某一年环流异常，AI学到的这些所谓因子有可能会集体失效
因为AI的学习没有可解释性，至少目前为止，学到的更多是相关性因子而非因果关联性因子。举一个非常简单的例子，假设我们在大街上随机抓5个人和另外随机5个人，进行一场篮球比赛。AI可能会学到一个特征，那就是平均裤子长度更长的一方取胜概率大。但其实真实的关联性在于平均身高更高的一方更容易赢。这个时候如果走过来一批高个子穿着短裤，人类都能很轻松判断这几个人大概率能赢，但是AI可能就会栽跟头。
所以目前AI模式预测虽然可以作为提高准确度的工具，但不能代替我们在逻辑上的分析。当然，随着大语言模型的愈发强大，逻辑上的分析或许，也终有一日AI可以做得比我们更好。不过届时与lz担心的AI导致失语现象可能恰恰相反，大模型将会结合强大的算力和推理能力，发现我们未曾发现的全新天气现象、特征与关联性，带领我们领略科学之美。
以上，其实在另一个领域已经发生过一遍了，那就是围棋。从2017年人们高喊围棋已死，到现在AI带领我们领略从古至今未有人开发过的新奇策略，围棋之美其实远未消失

Threebodyman

其实哪怕是炒股这么玄学的东西，机器学习也尚未取代人类研究者。气象学感觉也差不多。而且现在年年气候都在变，等哪年过了某个临界点，说不定届时我们能看到AI集体持续抽风（AI拟合样本外数据一直很抽象）。AI预报要么不抽风，抽起来可能没有下限，连最基本的常识都没有了