四分之一 PR 是 AI 垃圾,而 Anthropic 在忙着给开源项目免费打补丁

AI 速递

Linux 基金会那份报告里的数字摆在一起看,很难不让人觉得别扭。AI 让写代码的速度提升了 52%,听着像生产力革命,但报告同时指出,开源项目收到的 PR 里有四分之一是"AI 垃圾"——格式漂亮、逻辑稀碎、提交者自己可能都没读过的代码。维护者的工作量没有减少,反而因为要甄别这些噪音而增加了。

这个矛盾大概是当下 AI 编程最真实的切面。工具确实快了,但快出来的部分,成本被转移到了审查端。写代码的门槛降到了地板,读代码、判断代码对不对的门槛一点没降。

有意思的是,同一天还有两条新闻从另一个方向补上了这块拼图。Anthropic 推出了 OSS Scanner,一个免费的、自愿加入的漏洞扫描器,专门跑在关键开源项目上,用的还是他们最强的模型 Claude Mythos。Cognition 则开源了 Devin 的漏洞修复插件,三个 MIT 协议下的 agent 技能,能对 PHP、Node.js 和自建 GitLab 部署做清点、打补丁和测试,针对的是本周爆出的几个严重 RCE 漏洞。

一边是 AI 在生产代码噪音,一边是 AI 在帮忙清理漏洞。这两件事同时发生,并不矛盾——它们描述的是同一条流水线的两端。AI 把代码生产变成了低成本行为,生产端膨胀,审查端和修复端就得跟上。Anthropic 和 Cognition 做的,本质上是在给这条流水线装下游的过滤器。至于过滤器够不够用,那是另一回事。

说到 Anthropic,同一天还有一条不太好看的新闻:他们正在调查五个 Claude 模型出现的错误率升高问题,状态页在 UTC 06:14 挂了事故通告。做安全扫描器的公司自己模型稳定性出问题,倒也不算多大的讽刺——模型服务本来就有波动,只是时间点撞在一起,显得有点戏剧性。

研究侧这两天的进展更值得细看。Stanford 和 UC Berkeley 的 TokenGate 是个挺聪明的思路:一个可学习、即插即用的 token 剪枝模块,让长上下文 prefill 的 time-to-first-token 快了 1.4 到 11.3 倍,峰值内存降了 1.5 到 3 倍。长上下文现在是各家模型的标配卖点,但 prefill 的开销一直是实际部署里的隐痛。TokenGate 不改模型结构,而是在注意力之前先把不重要的 token 筛掉,工程上更容易落地,这个方向大概率会被跟进。

AI21 Labs 发布的 LIFT-Bench 盯的是另一个方向——RL 训练里的 reward hacking。这个 benchmark 的设计有点意思:每条约束都被限定在文档的某一个 section 里,评分同时考察任务内容本身。换句话说,它不让你靠"讨好评分器"蒙混过关,而是逼模型在局部约束下完成内容。奖励作弊是个老问题,有个专门的评测基准总归是好事,至少让"模型是不是在作弊"这件事变得可测量。

安全话题上,数据投毒的科普这两天也又火了一轮。原理不新鲜——攻击者通过污染训练、微调、评测或检索数据,让模型学会错误行为或者输出攻击者想要的结果。但每次有大模型翻车,这个话题就会被重新翻出来。它提醒的事情很朴素:模型的能力上限取决于数据,模型的可信上限也取决于数据。

消费端这边,TechCrunch 盘了一轮 AI 可穿戴设备,Muse Charm、Bee、Friend、Plaud 这些名字放在一起,能看出这个品类还在"什么都试一试"的阶段。挂脖子的、别胸口的、戴手腕的,形态各异,但真正说清楚"为什么非得是穿戴设备"的产品还没出现。同一天,英国宣布了超过 6 亿英镑的 AI 投资计划,钱还在往这个方向涌。

而 TechCrunch 另一篇"AI 墓地"的盘点,给这股热闹补了一记冷静的注脚。从苹果反复跳票的 Siri AI,到 OpenAI 那次混乱的"超级应用"发布,失败和未达预期的项目排成了一列。这个列表的意义不在于嘲笑谁,而在于提醒:AI 行业的产出速度和淘汰速度是同一个数量级的。

把这几条新闻放在一天里看,画面挺完整。AI 在代码、模型、硬件、应用各个层面同时加速,同时制造新的负担。写代码快了 52%,维护者更累了;模型能力更强了,reward hacking 和投毒的花样也更多了;可穿戴设备一波接一波,墓地里也一波接一波。这个行业现在最不缺的是速度,最缺的大概是消化速度——无论是人类维护者的消化能力,还是系统自身对齐的消化能力。