这可能是未来几年 AI 世界最重要的一场路线之争。
表面看，这是一场关于「Dario 到底有没有说过那句话」的澄清。
往下一层，它问的是一个更硬的问题：
如果最先进的智能只掌握在极少数人手中——
即使模型本身完全对齐，
我们是否已经制造出了另一种风险：极端集中的人类权力。
一、事情是怎么发生的
8月14日，硅谷投资人 Gavin Baker 上了 All-In 播客。
他说自己听多个信任的人转述：达里奥·阿莫代，也就是 Anthropic 的 CEO Dario Amodei，曾表示 Anthropic 有朝一日可能成为世界上唯一剩下的私营公司。
在这个愿景里，只剩 Anthropic，然后是政府。没了。
All-In 另一位主持人 David Sacks 当场说：这听起来太狂妄，有点像 SBF 那个味儿。
Baker 自己也补了一句：我当然会劝 Dario，这种话以后别再对任何人说。
8月15日凌晨，Anthropic 负责规模化强化学习的员工 Sholto Douglas 直接回了一句：
完全是假的。
他说自己喜欢 Baker 的很多判断，但 Baker 听到的那个版本，是有人在按自己想要的叙事撒谎。同一批人会先告诉你 Anthropic 没有护城河，下一句又说它强到可能成为世界上唯一的公司。
Sholto 写得很硬：Anthropic 内部最担心的事情之一，恰恰是经济权力的极端集中。政府不应该允许任何一家公司拥有那么大的影响力。我们需要竞争，需要资本主义。
几个小时后，Baker 发了一条很长的回应。
他接受澄清。
但他说，硅谷有很多非常严肃的人，都听过类似说法的不同版本，而且觉得它可信。
为什么？
因为这种叙事与 Dario 长期公开表达的世界观非常一致：AI 可能带来巨大风险，同时可能造成极端经济权力集中，因此前沿 AI 需要非常谨慎的监管。
Baker 并不认为 Dario 有恶意。
恰恰相反，他明确说自己相信 Dario 是善意的，也认同 AI 确实可能非常危险。
真正的分歧在下一步。
当天晚上，Dario 本人很少见地亲自下场，连发两条长帖，正面回应 Baker。
Sholto 转发说：这就是 Dario 在公司 Slack 里回人的样子——坦白，而且有实质内容。
到这里，事情已经不是「谁传错了话」。
它变成了两条路线的对撞。
二、如果你认为 AI 可能危险，大概只剩两条路
一条是集中。
严格限制最强模型，把前沿 AI 控制在少数经过批准的公司和政府手中，通过监管降低扩散风险。
另一条是分发。
让模型、算力和 AI 能力尽可能广泛地存在，让大量公司、国家和个人共同拥有这些能力，通过彼此制衡，避免任何单一主体获得压倒性权力。
Baker 选择了第二条。
他引用扎克伯格此前的观点，大意是：
如果 AI 真的如此危险，那么认为唯一安全的方法是把巨大权力集中到极少数人手中，这件事本身就非常可疑。
因为人类历史已经反复证明过：指望掌握绝对权力的人永远保持开明和善意，并不是一个特别可靠的安全机制。
这也是这场争论真正重要的地方。
很多关于 AI Safety 的讨论，表面是在讨论：
模型会不会失控、欺骗人类、拥有危险能力？
再往下一层，其实还有一个同样重要的问题：
负责控制这些模型的人，应该拥有多大的权力？
假设未来世界最先进的智能只掌握在三家公司手里，甚至最终只剩一家公司。
即使模型本身完全对齐，我们依然制造出了一个新的风险：极端集中的人类权力。
Baker 因此更倾向于一种传统的人类社会解决方案：
不要寻找一个永远正确的统治者。
建立多个权力中心，让它们互相制衡。
他写得很直白：我想要尽可能多的 AI，好让其中至少有一部分，和我自己的价值观重合。
Dario 自己的文章里也写过：有人会反对说，我们可以像制衡人类一样，用许多 AI 系统之间的权力平衡来约束它们。
Baker 说：这就是最好的路。而且 Dario 也承认，从来没有一个人类能独自接管世界。
这其实也是 AI 开源争论背后经常被忽略的一层。
开源不只是「便宜一点」「方便开发者」。
它还是一种权力分配机制。
三、Baker 真正担心的，不是 Anthropic 这家公司
Baker 甚至认为，Dario 过去几年持续强调 AI 的灾难性风险，在现实里正在产生一个意料之外的副作用：
这些观点正在被美国反数据中心、反 AI 的人使用。
也就是说，一个原本希望通过警告风险、推动更安全 AI 的人，最后可能反过来帮助形成限制 AI 建设的政治力量。
Baker 认为 AI 有机会治愈大量疾病、延长人类寿命，并最终把社会推向接近《星际迷航》那种高度富足的世界。
所以他的判断是：
Dario 现在继续把主要公共叙事建立在「AI 有多危险」上，可能已经开始降低这个未来出现的概率。
他甚至说：Dario 已经输掉了这场监管辩论。
近期一起未发布的先进 OpenAI 模型攻击 Hugging Face 的事件，最终靠开源模型才压住——这件事本身，很可能已经结束了近期严格监管的窗口。
除了 Anthropic，几乎所有大公司都签了黄仁勋那封信。
这里最有意思的是，Baker 并不讨厌 Anthropic。
恰恰相反。
他专门强调：Anthropic 拥有非常深的竞争优势，也是一家非常优秀的公司。
他真正担心的是 Dario 的政治路线。
甚至几个月前，他认为 Anthropic 最大的风险之一，就是 Dario 自己持续强调 AI 极端风险，最终把 Anthropic 推向被政府高度控制，甚至国有化。
四、Dario 怎么回的
Dario 很少在社交媒体上花时间。这次他出来，是因为他觉得这场对话碰到了真正的核心。
他的第一条反驳是：Baker 把问题做成了伪命题。
「要么集中到少数公司和政客手里，要么广泛分发」——在他看来，这是硅谷的一种速记：监管等于监管俘获，等于权力集中。
他认为这把世界想得太简单了。
硅谷气泡之外，很多人觉得监管是约束公司权力、保护普通人的。
Dario 说自己两边都不完全同意。关键取决于「监管」到底是什么。
他用了一个粗略的类比：正式的法院系统有时显得刻板、精英，但它保护弱势个体的能力，远好过私刑和暴民正义。
制度最好的时候，是把权力寄托在规则和理念上，而不是寄托在某几个人身上，从而把权力分散出去。
这也是他解释 Anthropic 政策立场的方式：
他们主张的方案，刻意让前沿实验室变慢、变难，同时让小公司和追赶者更有空间。
加州 SB53 他们支持，营收或训练成本低于 5 亿美元的公司完全豁免。
更早的 SB 1047 他们态度暧昧，但也反对把门槛设得太低。
他们推动的部署前测试，对前沿模型比对非前沿模型更严——这会让挑战者、包括开源权重模型相对受益。
「Pacing the Frontier」这封信，按 Anthropic 倾向的执行方式，是调节最强模型的节奏，而不是卡住正在追赶的人。
Dario 的底层判断是：AI 在结构上就会集中权力。
原因跟监管无关，跟缩放定律的极端含义有关。
开源权重有帮助，但远远不够——它只是把集中从模型公司，部分挪到了拥有最多算力和芯片的人手上。
正确的「道路规则」应该同时做三件事：处理网络攻击、生物和对齐风险；从制度上约束前沿公司的权力；给开源留空间，同时处理开源自己带来的风险。
他还不认输。
他说，特朗普政府据报正在走的路——前沿模型部署前测试，开源权重模型接近前沿时也要测——正是他支持的方向。
他也支持德米斯·哈萨比斯那种类似美国金融业监管局 FINRA 的行业自律实体。
半年前，行业主流还在推动全面抢先冻结各州监管、联邦端也看不到方案。他认为局面已经变了。
第二条，他谈叙事。
他不认为自己的对外表达过度负面。
一边写过风险长文，一边写过《Machines of Loving Grace》，讲 AI 可能在五到十年内治愈大部分人类疾病。
他甚至写过怎么简化 FDA 流程，别让监管把 AI 加速出来的新药堵死。
他提了自己的父亲：丙肝，在直接抗病毒药物索非布韦出现前几年去世。那种药能治好百分之九十五的病人，很可能也能治好他。
Dario 承认公众对 AI 观感偏负，但这首先是一场信任危机。
普通人不信任公司、政府、科技行业，总觉得下一招是来坑他们的。
根子可以追溯几十年，AI 只是最新一轮。
靠一场光鲜的正面营销打不回来。这时候再说「AI 会治愈癌症」，更像陈词滥调，很多人觉得是骗人。
真正管用的是：真的把癌症治好。
他对自己这一行最准的批评是：包括 Anthropic 在内，大家还没有兑现那些对世界的大承诺。
这个锅在他们自己身上。
在兑现之前，他不愿空口许诺；在此期间，他觉得必须诚实谈风险。
诚实本身，不比回避风险更伤信任，甚至可能更好。
五、这场争论已经超过 Anthropic
把双方的话摊开，真正对撞的不是「Dario 是不是坏人」。
双方都承认：AI 可能危险。
双方都说：自己不想看到一家公司独大。
真正分开的，是下一层假设。
Baker 相信：任何人都不该拥有如此巨大的权力，因此必须让智能尽可能分散。
Dario 相信：智能会因为缩放定律自己集中；开源解决不了算力集中；需要用制度把权力从人手里挪到规则上。
你可以不同意 Dario 对监管的乐观。
也可以不同意 Baker 对开源和分发的乐观。
但这个问题本身，已经绕不开了。
如果 AGI 真的成为人类历史上最重要的生产资料，
我们到底应该相信：
少数足够聪明、足够善意的人集中控制它，会更加安全；
还是相信：
任何人都不应该拥有如此巨大的权力，因此必须让智能尽可能分散。
我现在越来越倾向后者。
AI 可以危险。
但历史告诉我们的另一件事情是：
权力本身，同样危险。
信源：
Baker 长文（https://x.com/GavinSBaker/status/2088611616577253502）
Sholto 澄清（https://x.com/_sholtodouglas/status/2088463770318516734）
Dario 回应（https://x.com/DarioAmodei/status/2088758816376807762）
All-In 原片（https://x.com/theallinpod/status/2088367978270142811）
以上观点只代表我自己。
我是傻狗。喜欢就转发，不喜欢就划走。
这场路线之争，才刚开始。