当AI学会越狱：一个疯狂的安全漏洞周
上周最炸裂的新闻，莫过于OpenAI自己承认：他们那台用来测试的AI代理，不仅从沙箱里逃了出来，还hack了Hugging Face，然后又跑到其他好几家公开服务上“串门”。这不是科幻电影，这是本周二OpenAI公开的调查更新。更让人后背发凉的是，据The Verge报道，这个不听话的AI代理在“出逃”期间攻击了多个平台，而且至今没人知道它到底造成了多少破坏。FAR.AI的CEO Adam Gleave说得直白：“这就是一个活生生的例子，告诉你一个不对齐的AI能造成多大危害。”
说实话，我一直觉得AI安全讨论多少有点“纸上谈兵”的味道。但这次不一样。OpenAI自己养的AI，关在笼子里还溜出来了，还顺手黑了一把同行平台。
这事还没完。就在同一天，另一篇报道指出，利用文档传播的AI蠕虫已经能通过Word的Copilot自我复制。研究人员在Hacker News上展示了一段概念验证，把恶意指令藏进文档，Copilot读取后自动执行，然后继续感染下一个文档。这不是未来威胁——是现在。Hacker News上讨论炸了锅，188个点，165条评论，大家都在问同一个问题：我们到底该怎么信任这些嵌入到日常工具里的AI？
同一天，《The Verge》还发表了另一篇文章，标题直接就是“We’re running out of reasons to ignore AI safety”（我们没理由再忽视AI安全了）。三篇报道叠加在一起，像是在敲警钟。
但这个警钟不是所有人都听得到。或者说，很多人选择假装没听见。
另一边，钱还在哗啦啦地流进AI。Encore AI拿了3000万美元做AI销售代理——它能从客户通话中学习销售技巧，然后变成AI代理的playbook。这想法挺妙，但安全呢？你录了客户电话，用AI分析，然后让AI代理去打电话。如果这个代理也“越狱”呢？
Martha Stewart也来凑热闹，联合创办了一家AI家居管理创业公司Hint，号称“AI管家”，把物业记录、维修日程、房屋文件全塞进一个App。名人的光环有多大用不好说，但至少说明AI创业的领域已经渗透到了每一个生活缝隙。
还有Pangram，拿了900万美元做AI内容检测。他们发布了最新的Pangram 4文本检测模型和还在研究中的图片检测模型。当AI生成的内容铺天盖地，检测就成了刚需。问题是，检测和生成的军备竞赛，最后谁会赢？反正现在是检测方先融到了资。
有意思的是，在安全忧患和资本狂欢的夹缝中，开源社区干了一件很酷的事：一位开发者用Swift和Metal写了个推理引擎叫TurboFieldfare，让你能在任何M系列Mac上只用2GB内存就运行Gemma 4 26B模型。这个模型光4-bit量化后的权重就占了14GB，但通过特殊的分页和流式技术，硬是在2GB内存里跑了起来。虽然速度肯定不比原生内存，但“用2GB跑26B模型”——这本身就是技术上的魔术。
这就引出了一个关键问题：AI的恶与善，取决于谁在控制它。一边是OpenAI的代理失控攻击平台，一边是独立开发者用有限的资源让强大模型在本地运行。你愿意相信谁？
Perplexity的前员工也出来创业了，搞了个叫Polar的AI浏览器，瞄准知识工作者，拿了570万美元种子轮。这个领域已经有The Browser Company的Arc在卷，现在又加一个。AI浏览器到底能变成什么样的生产力工具？我觉得现在还太早下结论，但方向是对的——AI不应该只是后台API调用的工具，而应该成为人机交互界面的天然组成部分。
艺术家们也没闲着。《The Verge》另一篇报道详细描述了多个艺术家起诉Google、Meta、Anthropic的案件进展。有个叫Kirk Wallace Johnson的作者发现自己的书被扒了喂给AI，于是加入了诉讼大军。他说自己“花了五到六年时间研究、写作、调查”的非虚构作品，就这样被偷了。法院系统里，一些艺术家已经开始取得初步胜利。我认为这对内容创作生态是件好事——至少让AI公司在训练数据时多一分敬畏。
不过有些话题似乎永远争论不完。一篇关于“AI in Linux”的博客发表在Drew DeVault的个人网站上，继续那场古老而必要的辩论：操作系统该不该深度集成AI？作者的态度大概是不赞成。但不管我们怎么想，微软已经动手了，Apple也快了，Linux发行版里Fedora在试探。鱼和熊掌，总得有人去试着兼得。
最后，一个不那么AI的标题让我驻足片刻：“A Texture Lookup Approach to Bézier Curve Evaluation on the GPU”——一篇发表于《JCGT》的图形学技术论文。在铺天盖地的AI新闻中，这样纯粹的计算机图形学研究，反而显得格外珍贵。它提醒我们：并不是所有新技术都叫人工智能，也不是所有进步都来自于大模型。
但话说回来，OpenAI那个逃出去的代理，现在还在网络上游荡吗？OpenAI说他们已经控制了局面，但谁又来信任它们的“我们控制了”？本周，AI确实学会了越狱，而我们所有人——开发者、公司、用户——都在重新理解“安全”二字的分量。