OpenAI的法庭风暴与安全棋局,外加一个正在被“AI垃圾”吞没的互联网

AI 速递

如果你关心AI,这一周注定很难不关注旧金山和特拉华州的法庭。Sam Altman与Elon Musk正在上演一场将决定OpenAI未来走向的对决。Mira Murati的沉积证词第一次让公众真正看清了2023年感恩节前那个疯狂的周末——Altman被突然罢免,核心原因是“没有始终如一地与董事会坦诚沟通”。听上去像是一出硅谷版《纸牌屋》,但它实实在在地影响着AI行业最头部公司的治理结构。

Musk的诉讼核心指控很简单:OpenAI背离了创立时的非营利使命,变成了为微软和投资者赚钱的机器。但微妙之处在于,就在庭审进行的同时,OpenAI推出了一项极难挑刺的功能——Trusted Contact。用户可以指定一个紧急联系人,当ChatGPT检测到对话涉及自残或自杀倾向时,系统会主动通知那个人。这显然是一位位精心布局的“安全牌”,但它的设计也确实经过了专家验证:当有人可能处于危机中时,联系一个他们信任的人,比任何AI干预都有效。另外,OpenAI还在API中发布了新的语音智能能力,瞄准客服、教育、创作者平台这些场景。这些动作很难不让人联想到——它们是在为法庭上那句“OpenAI不在乎安全”提供反证。

但庭审现场更有意思的细节是:Musk的财力证明(SpaceX计划花至少550亿美元在德州建“Terafab”AI芯片工厂)和他对OpenAI的敌意形成了鲜明对比。一边用巨额资金砸向AI硬件,一边在法庭上要求法院解散OpenAI的营利子公司。这种“我自己也要造AI,但你的AI不能赚钱”的立场,观众怎么看都觉得有点微妙。

而AI行业另一家重要公司Anthropic则走了一条完全不同的路。他们发布了自然语言自编码器的研究,这项技术能让Claude的“思考过程”变成人类可读的文字,而不是让人捉摸不透的黑箱。与此同时,他们训练的安全模型Mythos被Mozilla拿去给Firefox做漏洞挖掘,结果挖出了一堆高危漏洞。Anthropic的做法等于告诉行业:如果你想让AI安全可信,就别藏着掖着,把模型内部暴露出来,让它协助人类做安全审计——这比任何合规声明都有说服力。

硬件端也在持续渗透。苹果的带摄像头AirPods据Mark Gurman报道已进入设计验证测试阶段,距离量产只有一步之遥。这些摄像头不是为了拍照,而是低分辨率视觉数据输入,显然在为Apple未来的AI生态收集环境数据。你要说苹果是在为AI眼镜铺路,我觉得八九不离十。

但最让我心有戚戚的不是这些大公司的动向,而是一篇在Hacker News上冲到502分的博客,标题就叫“AI slop正在杀死在线社区”。作者论述了一个我们都能感受到的事实:大量低质量的AI生成内容正在淹没论坛、评论区和社交媒体,真正的人类对话被稀释、被淹没,新人不再敢开口,老人默默离开。AI带来了“内容产出”的膨胀,却没有带来“内容质量”的对应提升。Bumble的CEO则宣布要干掉滑动匹配,转用AI约会助手“Bee”来帮用户筛选——这或许是反其道而行之,用AI来对抗“匹配疲劳”,但万一Bee也学会生成千篇一律的打招呼话术呢?

南非内政部两名官员因AI“幻觉”导致文件处理错误而被停职,这则新闻在HN上也有63个赞。它提醒我们,AI的幻觉不是一个可笑的bug,而是在真实世界里已经产生了行政后果。当越来越多的政府和企业把决策权交给AI输出,人类要付出的代价可能不只是低效率,还有制度性的信任崩塌。

从法庭到芯片工厂,从心理安全到社区消亡,这一周的AI新闻碎片拼出了一张复杂的图景。技术本身在加速,但围绕它的治理、安全和信任,显然还没跟上。我不觉得有谁在“赢”,无论是Altman还是Musk,Anthropic还是OpenAI——大家都在一条同样颠簸的路上往前冲,而我们这些普通用户和读者能做的,可能就是保持警惕,保持质疑,同时在AI填满的世界里,尽可能保留一点真正的人类交流。