Anthropic 研究员辞职之后：AI 还在加速，但共识正在分裂

Jacob Coxon 从 Anthropic 辞职这件事，炸出了一条此前只在小圈子里流传的焦虑：AI 能不能控制住自己？这位曾经亲手训练过 AI 系统的研究员在 X 上公开说，他离开是因为公司对待安全的态度"太松懈"，实验室们正在不计后果地建造"无法控制的超人类系统"。几个小时后，他的同事、Anthropic 高级安全研究员也站出来表态，认为到 2030 年之前 AI"杀死所有人类"的可能性超过 10%。

10% 这个数字到底怎么算出来的，没人说得清。但两名研究员先后发声，至少说明一个问题：内部人对 AI 安全的态度已经不是担忧，而是恐惧。 Coxon 用的词是"拿我们的命赌博"，还呼吁实验室之间签署 pacing agreements——就像军控协议那样，限制谁先跑到终点。这个提议目前在商业逻辑上几乎不可行，但它暴露了行业里一条正在扩大的裂缝：一边是实验室之间疯狂的军备竞赛，另一边是参与者在某个临界点突然意识到，自己可能正在建造一个无法关掉的东西。

讽刺的是，这种失控感恰恰发生在 AI 展示出更强能力的时刻。OpenAI 声称其智能体解决了一个重要的开放数学问题——这件事如果属实，本该是科学史上值得大书特书的一页。但翻开 Science 的报道，你会看到一场正在发酵的争议：有人质疑验证过程不够严谨，有人怀疑问题本身的选择有偏向性，还有人干脆觉得这不过是又一个精心包装的 PR 事件。MIT 技术评论的标题更直白：OpenAI 的数学突破如何点燃了一场争议。

我无意站队说你该信哪一边。但一个值得注意的现象是，当 AI 真的做出点什么的时候，我们的第一反应已经从"太棒了"变成了"等等，这是真的吗"。去年大家还在惊叹 AI 写代码的能力，今年已经开始追问它的推理过程是否可信。这种怀疑本身就是成熟的标志，只是它来得有点晚——毕竟 OpenAI 已经把这个数学结果放进了宣传材料里。

对比之下，Suno 的动作显得务实得多。面对一堆版权诉讼，这家 AI 音乐公司宣布新模型 Suno v6 不再使用此前版本训练时用的那些音乐数据，转而采用授权曲目。翻译一下：他们承认了之前的做法有问题，但不想用"认错"这个词。这大概是 2026 年 AI 公司最标准的危机公关姿势——用产品升级掩盖法律退让，对外宣称是"技术进步"，实际上是律师在会议室里赢了一局。你可以说这是被迫的体面，但也得承认，至少比那些死扛着"合理使用"不放的公司聪明。

同样是消费级 AI，购物助手们在过去 12 小时里扎了堆。Instacart 推出了叫 Clementine 的 AI 购物助手，Shipt 也上线了类似功能，能让用户直接说"帮我建一个周六 25 人 tailgate 派对购物车"。这些功能本身没什么技术门槛——大语言模型加电商 API 的事儿——但它标志着一个趋势：AI 正在从"帮你聊天"变成"替你办事"。 而这种转变恰好呼应了前面说的安全焦虑——当 AI agent 能替你创建账号、联系商家、处理客服请求（Instinct 的邮件功能已经在做这事儿），它同样能替你做出你并不想要的决策。硅谷投资人显然看到了这个风险敞口，Sequoia 领投了 Cymphony 的 2500 万美元 A 轮，这家公司做的就是企业级 AI agent 安全。当有人忙着造 agent，就一定有人忙着给 agent 上锁，这个产业链倒是闭合得很快。

Prime Video 的新功能倒是没什么争议——用 AI 让配音对口型，目前只在德语剧《Maxton Hall》的英语配音上可用。实用的技术，应用场景明确，没啥好大惊小怪的。比起那些动不动就要"改变人类文明走向"的发布，这种小而美的功能反而让人喘口气。

但整体来看，AI 行业的脉搏还是太快了。快到一个研究员宁愿放弃高薪也要公开辞职，快到数学证明还没被学界消化就已经上了新闻头条。OECD 那份报告倒是个有趣的注脚——用 AI 辅助学习的学生，成绩普遍比不用的差；只有那些受过训练、懂得批判性评估 AI 输出的学生，才能从中获益。人类还没学会怎么和 AI 共处，无论是学习、购物还是做研究，所有人都在边游边学。也许 Coxon 说的对，我们需要的不只是更好的 AI，而是一个大家都愿意放慢点的协议。但从今天的新闻看，没人在乎这个提议。