The Blog Post That Set the AI World on Fire 一位知名研究者发表的这篇极具颠覆性的文章提出：人工智能实际上比我们预想的更具可预测性。 作者：Matteo Wong 插画：Akshita Chandra / 《大西洋月刊》） 2026年10月16日 在过去的24小时里，硅谷的焦点全集中在一篇由AI研究员尼克·卡马拉塔（Nick Cammarata）撰写的2.6万字博文上。这篇文章被誉为年度“最重要的论文”、“最重要的成果”以及“最重磅的利好消息”，甚至有人将其拔高到了AI研究史乃至人类历史上的高度。就连OpenAI的CEO萨姆·奥特曼（Sam Altman）也对其不吝溢美之词。 卡马拉塔在文中对AI的本质提出了一系列大胆且近乎惊人的论断。如果这些论断属实，将彻底颠覆该行业对其正在构建之物的基本假设。在经历了数月的AI黑客狂潮以及公众对该行业日益强烈的抵制之后，许多人认为，卡马拉塔不仅为理解这项正被释放到世界上的技术，也为控制它提供了一线希望。 简而言之，卡马拉塔的核心观点是：生成式AI模型实际上并非“黑箱”。这与普遍认为这些系统过于庞大和错综复杂、几乎无法穿透的看法截然相反。事实上，卡马拉塔认为，理解它们的路径相对清晰。如果情况确实如此，其现实意义将是巨大的：这将提供一种绘制AI模型内部运作图谱的方法，进而或许能防止它们造成各种危害——比如自主黑客攻击企业和主权国家、加剧用户的妄想，或是表现出欺骗AI研究人员的行为。目前，有一个名为“机械可解释性”（mechanistic interpretability）的研究领域，正是专门致力于研究这一课题的。 提出这一论点的人与其论点本身同样重要。卡马拉塔是OpenAI的前员工，也是该领域备受尊敬的人物。多年前，他曾在此前确立相反观点的过程中发挥了关键作用，而该观点如今已成为常识：即作为生成式AI基础架构的神经网络，是不可能或者至少是极难被理解的。而在这篇新博文中，目前在AI研究公司Goodfire工作的卡马拉塔，本质上是在承认他和整个领域一直以来都错了。“这里的观点令人从生理上感到震惊，”一位观察者写道。或者正如另一位用户在X平台上所言，这些观点“非常、非常、非常重大”。 神经网络受人类大脑启发，由各个节点（或称“神经元”）之间的分层连接组成，它们在响应查询时激活并相互发送信息。早期的研究（包括卡马拉塔的研究）表明，单个机器神经元可以响应许多不同且不相关的主题——例如，一个神经元可能同时对应猫脸、猫腿以及汽车前部的图像。没人确定为什么会发生这种情况，但一种解释是，由于AI模型包含的信息量远超其拥有的神经元数量，它们不得不重复利用这些节点。无论如何，如果AI模型的基本单元具有看似随意且繁多的功能，这将使得理解其底层运作机制变得异常困难。 卡马拉塔现在认为，单个神经元是可以被理解的，且每个神经元都具有自洽的功能。他写道，神经网络并非“纠缠不清的死结”，而是“清晰整洁”的。他发现，例如那个对应猫脸和汽车脸的神经元，实际上是在响应具有V形特征的事物——包括V形的火焰和水柱。这将使得AI的内部机制变得相对简单和可预测，而非神秘和模糊。业界一些人认为，如果我们能利用这种理解，AI失控甚至“毁灭人类”的可能性将大大降低。“这确实是多年来最令人乐观的案例之一！”OpenAI研究员亚当·马朱达尔（Adam Majmudar）在X平台上写道。 当然，并非所有人都同意卡马拉塔的观点。首先，他的这2.6万字仅仅是一份“即将发表的技术论文”的“工作假设”，因此在技术层面上很难进行评估。此外，他深入研究的神经网络主要是视觉模型，这类模型通常比支撑ChatGPT和Claude的语言模型更简单，也更容易被理解。卡马拉塔可能是错的，或者他可能夸大其词。这篇博文未经同行评审，而即将发表的论文可能也不会经过评审，这在该领域是常态。这项研究本身在某种程度上也是一个“黑箱”。（卡马拉塔并未立即回复置评请求，但他今天在X平台上表示，感谢所有的讨论，并称他的方法对于“更大的现代语言模型”来说“目前看来很有希望”。） 围绕卡马拉塔博文的讨论也暴露出了哲学层面的分歧。“这是一项有趣的工作，但我认为它并没有显著更新宏观图景，”领导谷歌DeepMind机械可解释性研究的尼尔·南达（Neel Nanda）在评估卡马拉塔的发现时写道。即使研究人员能够近似地理解Claude Mythos 5.1或GPT-6 Astra中每个神经元的功能，这也不等同于理解它们如何连接以及网络作为整体如何运作。物理学家拥有良好的原子及原子间相互作用模型，但他们无法从第一性原理出发解释或预测每一个物理事件（因此才会有不可预测的极端天气，乃至自由意志的概念）。你认识来自学校、各个工作场所以及当地垒球联盟的所有朋友，但你无法总是知