当巨头互相举报，AI的信任危机才刚开始

上周五，Anthropic突然宣布暂停全球用户访问其最新模型Fable 5和Mythos 5。当时官方的解释是“需要应对出口管制合规问题”，但今天《华尔街日报》的报道揭开了更戏剧性的内幕——这场禁令的导火索，竟是Amazon的CEO Andy Jassy直接给白宫打了电话。

根据报道，Amazon的网络安全研究团队通过一系列精心设计的提示词（prompt injection），成功让Fable 5输出了可用于网络攻击的敏感信息。研究论文提交后，Jassy与白宫进行了对话，随后出口管制指令迅速下达。Anthropic别无选择，只能一刀切地切断全球访问。

这事儿有意思的地方在于：Amazon既是Anthropic的主要投资者（投资额高达40亿美元），也是其云服务的竞争对手。一个投资方转头就举报自己投的模型有安全问题，这在AI行业还是头一遭。显然，安全问题的政治资本已经超过了商业利益。或者说，Amazon看到了一个既能打击竞争对手、又能向政府表忠心的机会。

这一事件很快在印度引发了激烈讨论。TechCrunch的报道标题直接问：这是否是印度AI雄心的警钟？印度科技领袖们担心，如果美国可以因为一个模型存在潜在风险就全球封杀，那么发展中国家在AI基础设施上的依赖将变得更加危险。我倒是觉得，与其说是警钟，不如说印度终于看清了一个事实：AI领域的话语权和安全标准，本质上还是由华盛顿和硅谷定义的。

巧合的是，就在同一天，英国德比郡的一名警察被调查，原因是他用AI在多个案件中“制造证据”。Sky News的报道没有披露具体手法，但“create evidence”这个词已经够让人脊背发凉了。AI生成虚假证词、伪造聊天记录、篡改时间线——这些在技术上都早已可行，只是没想到这么快就有执法者敢于实践。

同样是“制造不存在的证据”，KPMG则遭遇了更具黑色幽默的一幕。这家顶级咨询公司刚刚发布了一份关于企业AI使用情况的报告，然后被迫撤回——因为报告本身出现了明显的AI幻觉（hallucinations）。也就是说，KPMG用AI写了份关于AI的报告，然后AI在报告里编造了AI的统计数据。这就像用一个声称不会犯错的人来当质检员，结果他连自己的简历都填错了。

OpenAI也没闲着。多个州的检察长已经联合对其展开调查，涉及广告政策、健康数据处理等一系列问题。虽然具体是哪些州尚未公布，但信号很明确：监管开始从联邦层面下沉到地方，AI公司的合规压力将从多个方向同时袭来。

所有这些新闻串联起来，指向一个越来越清晰的现实：AI系统本身不可靠，人用它来做“不可靠的事情”更不可靠。当Amazon、Anthropic、OpenAI这些巨头之间的互相举报成为常态，当警察开始用AI伪造证据，当咨询公司被自己的AI工具打脸，我们还能信任什么？

或许答案藏在今天Hacker News上最受欢迎的一篇博客里——作者分享了自己在本地运行AI编码工具的成本方案，花几百美元搭一台能跑的机器，就能绕开云服务的价格和隐私风险。这听起来很geeky，但这可能是最务实的应对之道：既然大公司和政府都在互相扯皮，那不如自己掌握模型控制权。

信任崩塌之后，总有人选择自己造地基。