当AI开始“咬人”:Fable的护城河、AWS的数据要挟、以及一场隐秘的能源革命

AI 速递

不用细看就能感受到,这周AI圈的画风有点不对。最让我意外的,是Anthropic新模型Fable引发的连锁反应——不过不是惊喜,而是愤怒。一群网络安全研究人员公开抱怨,Fable的安全护栏(guardrails)简直严到没法干活。想象一下,一个被训练用来防御攻击的AI,却连基础的渗透测试指令都不敢执行,因为它“不想产生有害输出”。这就像请了一个保镖,结果他拒绝进任何可能有危险的门。

研究人员不是吃素的。他们指出,Anthropic所谓的“安全优先”本质上是在把安全研究手脚绑起来,反而让真正的攻击者更容易得手——因为防御方无法有效测试自己的系统。Fable的定位明明是开源、可微调的安全模型,但Anthropic却用一层又一层的过滤规则把模型锁死。这种“我比你更懂什么对你好”的态度,在安全社区里犯了众怒。

更值得玩味的是同一天的另一条消息:AWS Bedrock将要求客户与Anthropic共享数据。对于使用Mythos级别及未来更强大模型的客户,Anthropic要求保留其30天的流量数据——而且明确说了“你的数据会离开AWS的数据和安全边界”。AWS和Anthropic给出的解释是“为了检测模式滥用”,但任何一个CIO读到“your data will leave AWS’s data and security boundary”时,后背都会一凉。

这两件事放在一起,其实指向同一个问题:AI安全到底谁说了算?一方面是模型本身竖起的高墙,另一方面是监控数据流向的闸门正在收紧。企业如果既想用顶级模型,又要防止内部敏感信息被留存,几乎成了先有鸡还是先有蛋的困局。

不过,并不是所有人都愿意被大模型供应商卡脖子。Niteshift——一家由Datadog老将创立的AI编码创业公司——发布时就明确喊出了“反对大模型锁定”的口号。他们拿了700万美元的种子轮,投资人都是硅谷的老熟人。创始团队判断,未来企业不会甘心把代码生成全部交给OpenAI或Anthropic,而是要自己控制模型调用的权力。这条赛道并不新鲜,但Niteshift选择的切入角度很有意思:不做通用编码助手,而是专注于集成和可观测性——这恰好是Datadog最擅长的领域。

另一边,Jedify融了2400万美元,帮企业为AI代理提供业务上下文。Snowflake也参与了这轮战略投资。本质上,这两家公司都在解决同一个问题:AI代理如果没有企业内部的上下文数据,就像拿着最新地图但不知道自己在哪。而解决这个问题的方案,往往是更深的系统集成,而不是更强大的模型。

说到集成,欧洲那边也有自己的节奏。VivaTech 2026即将开幕,主办方透露今年企业AI将成为主角——不是硅谷热捧的消费级大语言模型,而是那些嵌入到电力、物流、制造系统中的复杂AI应用。欧洲公司一直更务实,他们不太想跟风玩聊天机器人,而是把AI塞进工厂的PLC里、装进输电网的调度系统里。这种“闷声干大事”的风格,也许才是AI落地最该走的路。

然而,任何落地都无法绕开一个现实问题:电从哪里来? 两篇关于能源的新闻放在一起读,信息量很大。一篇说“人人都成了能源公司”,另一篇讲两位SpaceX校友创办的Ambrosia Energy如何用太阳能+电池在12个月内建成电站,目标2030年达到吉瓦级规模。Meta也在印度签了了第一笔AI数据中心协议,与Reliance合作建168兆瓦设施。汽车公司GM和Ford更是直接杀入储能业务——当AI数据中心的电力需求让人无法忽视时,所有玩家都成了能源公司。这不是什么环保主义,这是焦虑驱动的务实选择。一台H100的功耗接近1000瓦,上万台集群的用电量堪比一个中型城市。

我注意到另一条不起眼的新闻——Warner Music收购了AI归属追踪公司Sureel AI。唱片公司终于开始认真应对AI生成的音乐了。他们想要一个工具,能精确追踪旗下艺人的作品是否被用于训练模型,或者直接出现在AI生成的曲子里。这笔交易金额没透露,但方向很明确:版权纠纷的解决方案不是靠法律追溯,而是靠技术审计。

最后说两个让我感觉行业在慢慢成熟的小事。Waymo发布了一个新的基准测试,用来更准确地对比自动驾驶与人类驾驶的事故率——他们不再单纯依赖传统碰撞测试,而是模拟了人类在紧急情况下的真实反应。这比单纯鼓吹“事故减少X%”要诚实得多。而Apache Burr这个开源框架,则试图构建更可靠的AI代理基础设施——强调“可观测性”和“可审计”,而不是一味地追求智能程度。这些信号告诉我,行业正在从“哇好厉害”转向“怎么不出错”。

当然,还有埃里克·莱斯(《精益创业》作者)在Hacker News上做AMA,宣传他的新书《Incorruptible》。书里讲的是他在过去十五年看到创业行业中那些不为人知的黑暗面——这句话放在这周的新闻堆里,简直是神来之笔。AI越强大,越需要有人问一句:“如果我们错了怎么办?”

今天的分享就到这里。这些新闻放在一起看,AI不再是那个只要给数据就能飞的独角兽,而是一头需要用电、需要被控、需要接受审视的巨兽。