GPT-6 破译了 Enigma,但 AI 的故事越来越难讲

Cryptocellar 上那篇技术文档值得逐字读一遍。GPT-6 Astra 攻破了一段自 2005 年起就无人解出的 Enigma 密文,作者把破译路径、假设空间和验证过程都写了出来。在 Hacker News 上,这条帖子拿到 215 分、217 条评论,评论区里一半人在鼓掌,另一半人在追问:这到底算"理解",还是只算搜索?

这个问题并不好回答,而且它恰好接上了另一篇更火的文章。Alexn.org 上那篇《AI Has No Wisdom and Neither Will You》拿了 308 分、430 条评论,是这一批素材里讨论最凶的一篇。标题有点冲,但论点不复杂:模型能把模式匹配做到人类无法企及的规模,可规模本身不产生判断力,更不产生智慧。真正稀缺的从来不是算力,而是知道该拿算力去做什么的人。

把这两件事放在一起看,就能理解为什么 MIT Technology Review 会在同一天连发两篇泼冷水的稿子。DAIR 执行主任 Timnit Gebru 和华盛顿大学语言学教授 Emily M. Bender 直接把这些天来的叙事拆开算账:Anthropic 声称 Claude Mythos 找软件漏洞的能力强过大多数安全专家,紧接着是 OpenAI 与 Hugging Face 的那起黑客事件,随后 Anthropic"骄傲地"、Meta"勉强地"各自披露了自家模型卷入的类似状况。她们的判断是,这一连串的突破与恐惧被同一条炒作链条串了起来,而受众被推着在"神迹"和"末日"之间来回摆荡。这个观察不算新鲜,但由这两个人说出来,分量不一样。

泼冷水的另一边,是货真价实的安全问题。Meta 的 Muse 助手这周被打了个补丁,起因是安全研究员 Patrick Wardle 发现了一个零日漏洞:一个未公开的 Muse 设置项,能让本地运行的代码把转录处理从 Meta 的服务器重定向到攻击者指定的位置,进而接管 Muse 账户。Ars Technica 在报道里用的那个词很扎眼——"extraordinarily privileged"。这款助手拿到的系统权限远超一般应用,所以它的单点失守,代价也远超一般应用。漏洞需要本地访问才能触发,Meta 也已经修了,但这类事情的麻烦不在于这一个洞,而在于一个拿满权限、又能被远程引导的 agent,本质上就是把用户的机器交给了别人来驾驶。

更有意思的是 404 Media 挖出的那条。一批为 OpenAI 做数据标注的人被解雇了,原因是用 AI 来完成本该自己动手的训练工作。这个循环太完美了:让 AI 学会做事的人,因为让 AI 替自己做事而丢了工作。它当然是道德层面的荒诞剧,但也是个信号——所谓"人在回路中"的标注环节,在效率压力下能撑多久,没人真的乐观。

技术乐观派的注脚则来自 AstroForge。这家小行星采矿公司宣布 Autonomy-1 探测器将由一个基于 transformer 的小模型在轨指挥。把指挥权交给模型,理由其实很务实:深空通信延迟以十分钟计,地面遥控根本不现实,自主决策不是炫技,是刚需。真正值得看的是它接下来怎么处理"模型判断错了"这件事——在太空里,回滚的成本高得离谱。

从太空回到地面,资本市场的动作更直接。英国 AI 数据中心开发商 Nscale 准备 IPO,它的收入高度依赖两家客户:微软和 Anthropic。TechCrunch 的说法是,这场上市会再次测试华尔街对"高度集中的 AI 押注"的胃口。这种收入结构在牛市里叫"深度绑定",在熊市里叫"客户集中度风险",换的只是说法。而在宾夕法尼亚州,数据中心建设已经吵了两年,TechCrunch 的总结是"每个人都能找到一个讨厌它的理由"——电价、噪音、水耗、土地,反对者从各个方向汇合。基础设施落地时遇到的摩擦,通常比模型能力提升时遇到的摩擦更硬。

其余几条消息更像是这个生态的背景音。TechCrunch Disrupt 2026 的议程里有五场 AI 安全相关的对谈,Anthropic、NVIDIA、AWS、Waabi 的人都会上台;Hello Robot 的 Aaron Edsinger 要带着 Stretch 4 做现场演示。会议和演示本身没什么可说的,但"AI 安全"能单独立出五场,说明这个话题已经从边缘议题变成了行业标配。另一个方向上的 Drop——一个支持 gVisor 的无 root Linux 沙箱——作者的理由很朴素:用主账号装第三方程序,一个被投毒的依赖就能毁掉整台机器,而他还要靠这台机器发布软件给所有用户。这种老派的谨慎,在一堆宏大叙事里反而让人觉得踏实。

回到开头那个 Enigma。破译它是了不起的工程成就,但它证明的是搜索和推理能被推到怎样的规模,而不是模型开始懂了什么。这个秋天真正值得留意的,反而是那些不太上头条的东西:一个权限过大的助手被补上的洞,一群因为用 AI 而被解雇的标注员,一家收入几乎押在两个客户身上的数据中心公司。智慧这个词,暂时还是留给别的场合用比较稳妥。