当 AI 找到答案，人类还需要理解吗？
前几天看到一张截图，有人在嘲笑数学家陶哲轩不懂医学。
起因是他在最近的一场演讲中提出了一个思想实验：假设未来某个足够先进的 AI，设计出一种治疗癌症的药物。AI 为它的预测提供了形式化的数学论证，这种药物也真的通过了三期临床试验，但人类科学家并不知道它是怎么被发现的，也不理解它的作用机制。
陶哲轩问，如果你被诊断出癌症，在接受这种治疗之前，是否希望至少有一位人类医学专家理解它为什么有效？
这个问题遭到了不少嘲笑。因为现代医学本来就有很多药物，其作用机制尚未得到完整解释，却已经被广泛用于临床。对患者来说，经过严格临床试验证明有效的药物，显然比一套听起来很合理、却没有临床证据的理论更重要。
我也认同这个反驳。如果一种药物已经被证明能够显著延长患者的生命，我不会仅仅因为科学家还没有弄清楚它的作用机制，就拒绝接受治疗。
不过，陶哲轩原本还有另一层担忧：如果 AI 的能力足够强，它有没有可能利用临床试验或数学模型中的某种漏洞，找到一种虽然通过了测试，却没有真正达到人类预期目标的方案？
这个问题涉及如何定义和验证 AI 的成果。但除了验证之外，还有一个更值得长期思考的问题：
假如未来 AI 能够解决大量人类无法解决的问题，人类还能在多大程度上理解它发现的知识？
今年 9 月，陶哲轩与另外 24 位菲尔兹奖得主联合发表了一份声明，批评 AI 公司过分热衷于用攻克数学难题来展示模型的能力。
数学家们担心，数学研究的价值正在被简化成一道又一道被解决的题目。
声明中有一个很好的比喻：著名的数学难题就像灯塔。
灯塔的价值不只在于最终抵达那里，它还为探索周围未知的世界提供方向。
数学家在研究一道难题的过程中，可能发展出新的证明方法、数学概念，或者发现原本毫无关联的数学领域之间存在的联系。
有时候，最后得到的答案并没有探索过程中发明的方法重要。后者可能在几十年甚至几百年后，成为解决其他问题的基础。
过去，攻克一道重要的数学难题，通常意味着有人在这个过程中取得了新的理解。其他数学家再通过研究证明、简化论证、提炼方法，逐渐把这些认识变成整个数学界能够使用的知识。
但 AI 正在改变这种关系。
它可能通过大规模计算和搜索，直接得到一个经过形式化验证的证明。数学命题已经被证明成立，人类数学家却未必理解其中的思想，更不一定能从中提炼出可以推广的新方法。
问题解决了，过去伴随着探索过程而产生的新认识，却没有必然地一起出现。
这并不意味着 AI 找到的证明没有价值。数学家们真正担心的，是当攻克难题越来越容易，我们可能把这个原本用于衡量数学进步的指标，当成了数学进步的全部。
答案解决了一个问题，而理解答案的过程，可能让人获得解决一类问题的能力。
但这里有一个值得继续追问的地方。
我们究竟为什么如此重视理解？如果 AI 已经能够准确预测结果，甚至能够可靠地解决问题，那么人类理解其中的机制，还能增加什么？
这个问题可以从物理学中找到一个很好的例子。
想象桌上有一杯水。
一杯水中有数量极其庞大的水分子，每个分子都在不断运动，与周围的分子发生相互作用。
如果要从微观层面完整描述这杯水，就需要处理每个分子的位置、速度，以及它们之间复杂的相互作用。
即使知道所有分子遵循的基本物理规律，要精确计算整个系统的演化，仍然需要难以想象的计算资源。
但在日常生活中，我们从来不需要知道每一个水分子的位置，才能理解这杯水会发生什么。
比如，我们想知道水在什么条件下会沸腾，或者给它输入一定的热量以后温度会如何变化。
此时，我们可以使用温度、压强、内能、热容等少量宏观变量，建立一套有效的物理描述。
热力学甚至早于人类对分子微观结构的完整认识，就已经能够描述大量宏观现象。
这件事非常有意思。
一个包含天文数字般微观状态的复杂系统，在另一个观察尺度上，竟然可以用少数几个变量和相对简洁的规律来描述。
而且这些规律具有极强的普遍性。
它们不要求我们首先知道每一个分子的运动轨迹，也不依赖于某杯水具体是由哪些水分子组成的。
在统计物理学中，科学家进一步研究了大量微观粒子的集体行为如何产生温度、压强和熵等宏观性质。
这让我们看到，理解一个复杂系统，并不意味着必须掌握构成它的全部细节。
有时，真正重要的进展，恰恰是发现哪些细节可以被忽略，以及在忽略大量细节之后，仍然成立的规律是什么。
当然，如果我们的问题变成「这杯水中某一个特定分子在一秒钟以后位于哪里」，热力学就无法直接给出答案。
但这不影响热力学是一套极其成功的理论。
它所揭示的规律，原本就属于宏观尺度。
这也是现代物理学中有效理论（Effective Theory）和粗粒化（Coarse-graining）等思想的重要意义。
即使一个系统在微观层面极其复杂，也可能在某个尺度上表现出相对简单、稳定的规律。
更进一步，有些宏观规律甚至对微观细节并不敏感。
在相变和临界现象的研究中，物理学家发现，某些微观结构相差很大的系统，竟然能够表现出相同类型的宏观行为。这就是所谓的普适性（Universality）。
原本看起来完全不同的现象，可能因为具有某些共同的结构，而被同一套理论解释。
我认为这才是科学理解最令人惊讶的地方之一。
它可以把极其复杂的现实，转化成数量有限、能够被人类掌握的概念和规律。
而这些概念又能被用于研究更多此前没有遇到过的现象。
那么，未来 AI 有没有可能帮助人类完成类似的事情？
假设某个 AI 通过庞大的计算，发现一种新的材料结构。
它也许尝试了数十亿种可能的组合，最终找到一种具有特殊物理性质的材料。
人类不可能独立重现它全部的搜索过程，也无法直接理解一个涉及大量变量的复杂模型。
但科学家可以进一步研究这些结果，寻找其中起决定性作用的变量。
也许最终会发现，某种此前没有被注意到的对称性、几何结构或者物理关系，才是决定材料性质的关键。
原本需要庞大计算才能得到的结果，经过进一步研究，可能被归纳为一套相对简单的新理论。
这套理论一旦建立，就能够用来预测其他材料的性质，甚至指导新的实验。
此时，AI 最重要的贡献已经超出了发现某种材料本身。
它还帮助人类发现了一种此前没有意识到的规律。
当然，并不是所有复杂问题都存在这样的简洁解释。
有些系统即使基本规则非常简单，具体的演化过程也可能无法通过某个简短公式跳过。
天气就是一个例子。我们掌握了描述大气运动的大量物理规律，仍然需要依靠庞大的数值计算来预测具体天气。
未来 AI 可能拥有大量类似的能力：它能够处理人类无法承受的计算量，得到准确的结果，却没有一套足以让人类独立完成同样预测的简洁方法。
因此，AI 的解决问题能力可能远远超过人类，但并不意味着它一定拥有一种能够完整传授给人类的、更高级的理解。
这里存在两种不同的可能性。
一种是 AI 发现了人类原本不知道的规律，而这些规律最终可以被整理成新的理论、概念和方法，进入人类的知识体系。
另一种是 AI 能够完成极其复杂的计算，人类可以验证和利用结果，却始终无法脱离机器独立完成同等规模的任务。
这两种能力当然都有价值，但它们对人类认知的影响并不相同。
前者可能真正改变人类能够理解什么，后者则主要扩大了人类借助工具能够完成什么。
这也让我想起一个经典的思想实验。
假设世界上存在一种只能生活在二维平面上的生物。
它们只能沿着平面移动，无法直接感知上下方向。
现在，一个三维球体穿过它们所在的平面。
这些二维生物会看到一个圆突然出现，逐渐变大，再逐渐缩小，最后消失。
在它们看来，这可能是一种难以解释的现象。
为什么一个圆会凭空出现，又凭空消失？
但对于三维世界里的我们而言，事情很简单。它们看到的圆，只是球体与二维平面相交产生的截面。
那么，二维生物有没有可能理解三维世界？
如果它们拥有足够的数学能力，完全可以通过观察和实验，逐渐建立描述三维空间的理论。
甚至只需要引入一个新的变量：高度。
原本一系列难以解释的圆形变化，就可以被理解为同一个三维物体在不同高度上的截面。
二维生物并没有因此获得三维感官，却能够理解过去无法理解的现象。
这与热力学的例子存在一种很有意思的联系。
理解的进步，有时并不来自掌握越来越多的细节，而是来自找到一种更合适的描述方式。
原本需要分别解释的现象，突然能够通过一套共同的关系联系起来。
一个新的概念，甚至可能重新组织我们过去积累的大量知识。
这也让我想到《星际穿越》。
电影最后，库珀主动坠入黑洞，进入一个被暗示为未来人类创造的高维空间。在那里，他可以接触女儿墨菲卧室的不同时刻。
但未来人类并没有直接将拯救地球的答案交给墨菲。
TARS 在黑洞中获取了关键的量子数据，库珀通过引力影响手表的秒针，把数据传给女儿，墨菲最终利用这些信息完成了引力方程。
那个高维空间所发挥的作用，是让原本无法获取和传递的信息，变得可以被人类使用。
墨菲没有进入高维世界，也没有获得未来人类的全部知识。她依然需要利用自己的研究能力完成最后的工作。
这个故事里更值得注意的，或许是高等文明为人类创造了一种新的观察和行动条件。
如果把这个想象延伸到未来 AI，我们也许不必要求 AI 将自己的全部知识直接解释给人类。
它可以帮助我们设计过去无法设计的实验，发现原本无法观察的现象，或者从庞大的数据中找到过去没有意识到的关系。
而人类借助这些新的条件，再去建立自己的理论。
这种能力可能比单纯提高计算速度更加深远。
在科学史上，许多重要进展都伴随着观察方式或概念体系的变化。
望远镜和显微镜让人类能够观察原本不可见的世界。微积分为描述连续变化提供了新的数学语言。统计物理学让人类能够从大量微观粒子的行为中理解宏观规律。
这些变化最终都使人类能够提出过去无法提出的问题。
AI 也可能成为类似的工具。它带来的新能力不一定只体现在计算规模上，还可能帮助我们发现新的变量、新的关系，甚至创造新的数学语言。
不过，这里还有一个值得讨论的区别。
自然界的复杂性是客观存在的，我们只能努力发现其中适合研究的规律。
但如果一个系统本来就是由 AI 设计的，那么它的可理解性，在一定程度上也可以成为设计时主动追求的目标。
例如，让 AI 编写软件时，我们可以只要求它完成某项功能，也可以同时要求它保持清晰的模块边界、易于验证的行为，以及能够被其他开发者理解和修改的结构。
这两种要求可能得到完全不同的结果。
如果未来 AI 能够设计药物，我们也可能在疗效、安全性之外，考虑候选药物的作用路径是否容易研究，或者能否通过进一步实验建立较清晰的机制解释。
这些要求可能会限制一部分可选方案，甚至需要付出性能或疗效上的代价。
但它们也可能换来更容易改进、推广和长期研究的成果。
这意味着，对于 AI 创造的东西，可理解性有时并不只是成果出现以后需要解决的问题，还可以成为创造过程中的一个目标。
我们不必总是在 AI 给出答案以后，才想办法理解它。
也可以在提出任务时，就要求它尽量产生能够被人类研究、验证和继续发展的成果。
这与陶哲轩和数学家们所关心的问题，又联系到了一起。
如果 AI 只被要求尽快解决数学难题，它就可能不断产出新的证明。
但如果我们同时要求它寻找更简单的证明、提炼可以推广的方法、发现与已有理论的联系，那么 AI 就可能参与到数学理解本身的发展过程中。
当然，正确证明与优美解释之间不一定存在简单的转换关系。有些证明可能需要长期研究才能被充分理解。
但至少，数学研究的目标不必被限定在证明数量上。
同样的道理也可以放到个人如何使用 AI 这件事上。
过去，我们通常是在遇到问题时向 AI 寻求答案。
我们知道自己缺少某些信息，于是让 AI 帮助查找、整理和分析。
但如果 AI 在许多领域已经拥有超过个人的知识和问题解决能力，那么它还可能帮助我们发现自己原本不知道应该问什么。
比如，一个人长期研究某种商业现象，一直从产品定价、市场需求和竞争格局的角度进行分析。
AI 却发现，真正影响结果的可能是某种此前被忽略的时间约束，或者两个原本被当成独立问题的现象，其实存在同一种因果结构。
这种帮助并不一定需要传递大量新知识。
有时只是引入一个此前没有意识到的变量，就足以改变一个人理解整个问题的方式。
这有点像宗教和民间传说中的「点化」。
一个人可能长期被某件事困扰，后来遇到一位高人，对方只是指出了一个他过去没有意识到的地方，他就突然理解了许多原本想不通的事情。
宗教中的开悟当然有更加完整的含义。但仅仅借用这种认知变化的意象，就已经很有意思。
我们过去拥有的事实和经验并没有发生变化，改变的是组织它们的方式。
一个新的概念，可能让许多原本分散的知识突然建立联系。
而且，这种理解一旦真正形成，就不必每次都依赖外部提醒。
下一次遇到类似的问题，人可以主动识别过去看不到的关系，提出过去不会提出的问题。
当然，也需要警惕 AI 很擅长生成看似深刻的解释。一个概念如果只让人产生恍然大悟的感觉，却无法帮助解释新的现象或者改善现实中的判断，那么它的价值就很有限。
真正值得期待的，是 AI 能够将一部分原本属于机器的问题解决能力，逐渐转化成人类自己能够使用的理解能力。
再回到陶哲轩最初的抗癌药思想实验。
假如 AI 真的找到了一种有效的癌症疗法，我希望它能够尽快经过可靠的验证，让患者得到治疗。
但我也希望科学家继续研究它为什么有效。
因为今天我们可以根据临床试验，知道这种药物对于某类患者具有怎样的疗效。
如果进一步掌握其中的作用机制，就可能发现哪些患者更可能受益、哪些患者存在特殊风险，或者怎样改变药物结构来获得更好的治疗效果。
临床试验能够帮助我们判断一种治疗是否有效，机制研究则有机会让这些知识延伸到尚未被直接测试的情况。
更重要的是，研究一颗药物的过程，可能让我们发现一种新的生物学规律。
这种规律又可能帮助人类解决更多疾病问题。
数学同样如此。
AI 可以帮助我们抵达过去遥不可及的灯塔。但如果我们能够进一步理解它找到的道路，发现其中可以推广的方法，那么这些成果就能够成为人类继续探索数学世界的工具。
未来的科学可能会出现一种新的分工。
AI 能够迅速产生大量新的结果，而人类和 AI 再共同研究这些结果之间的联系，寻找更简洁的解释，建立新的理论，并把其中有价值的部分转化成可以传承的知识。
发现、验证和理解，可能逐渐拥有不同的速度。
有些 AI 成果能够很快进入人类的知识体系，有些则可能长期依赖机器才能使用。
究竟有多少科学问题存在足够简洁的解释，有多少 AI 能力可以被人类吸收，现在还很难判断。
但有一点值得期待：人类理解世界的能力，未必只能以人类独立发现知识的速度增长。
就像二维生物可以通过数学理解三维空间，现代物理学可以用少量宏观变量描述极其复杂的分子系统，人类也可能借助未来 AI，逐渐掌握一些过去无法独立发现的规律。
我不知道人类最终能够理解多少由 AI 发现的知识，也不知道我们的认知能力究竟存在怎样的上限。
但未来 AI 的能力增长，不一定只意味着机器能够解决越来越多的问题。
它还可能意味着，人类能够理解的问题也越来越多。
当二维生物第一次理解三维球体时，它们眼中的世界其实没有发生任何变化。
那个圆依然会突然出现，逐渐变大，再慢慢消失。
但它们已经知道，自己所看到的只是一个更大世界的一部分。
而且从此以后，它们还能够提出许多过去根本不会想到的问题。
也许未来 AI 最值得期待的能力之一，就是不断帮助人类找到这样的新维度，让我们能够理解一个比过去更大的世界。
附：尝试让 AI 拓展自己的认知边界
写这篇文章的过程中，我也尝试调整了自己使用 AI 的方式。
过去我们通常向 AI 提问，希望获得答案。现在，我还希望它能主动发现那些我没有意识到的变量、关系和规律，帮助我从新的角度理解问题。
我把这个想法整理成了下面这段自定义指令。如果你也感兴趣，可以直接放进 ChatGPT、Claude 等 AI 工具的自定义指令中，或者在新对话开始时发送给它。
认知拓展
除了回答我的问题，也请在确实有价值时，主动探索我现有认知框架之外的可能性。
- 识别我尚未注意到的关键变量、隐含假设、因果关系，以及可能改变判断的因素。
- 寻找不同领域之间真正具有解释力的共同结构，必要时引入成熟理论、新概念或更好的问题表征。
- 当一个新概念能帮助我理解原本难以解释的现象时，用熟悉的例子把它讲清楚，并尽量转化成我能够独立使用的思维工具。
- 引入新概念时，说明它回答了原问题的哪一部分，以及增加了什么解释力。不要为了追求深刻而制造牵强的联系。
- 区分事实、成熟理论、合理推断和猜想。一个解释即使令人信服，也不代表它一定正确。
- 尊重我的理解过程。当我没有理解时，尝试换一种解释，而不是不断增加更复杂的概念。不要擅自把开放讨论变成课程或测验。
先解决当前问题，再考虑是否值得拓展。允许没有新发现。
最终目标是帮助我获得能够独立运用的新认识，而不只是产生恍然大悟的感觉。
当然，一段自定义指令并不能保证 AI 每次都能带来新的认识。但它提供了一种值得尝试的使用方式：除了让 AI 告诉我们答案，也让它帮助我们发现，自己原本还不知道应该提出什么问题。