教皇的第一道AI通谕,真正想说的是什么
教皇Leo十四世在梵蒂冈发布了上任后第一份通谕《Magnifica Humanitas》(伟大的人性)。TechCrunch的标题一针见血:教皇的AI通谕其实不是关于AI的。他用AI这面镜子,照出了更古老的病灶——权力集中、民主侵蚀、技术精英阶层按自己利益塑造世界。
这份文件警告了AI武装化的危险、对劳动市场的影响,以及少数公司控制不透明算法带来的"新型非人化"。Variety的报道引用了教皇的原话:不透明的AI由少数公司运行,这会导致"新的非人化形式"。The Verge的报道也强调,教皇呼吁在AI时代保持"深刻的人性"。
我的观点是,这份通谕最有趣的地方不是它说了什么新技术,而是它把AI放在了一个更大的道德和政治框架里。教皇没有陷入"AI会取代人类吗"这种技术焦虑,而是在问:当少数人掌握着定义社会运行的算法时,我们如何阻止权力集中变成新的封建制?宗教新闻网的标题说得直白:AI必须服务人类,而不是少数有权者。
这不是教皇第一次对科技发表意见,但这是他第一次以通谕这种最高级别的教会文件来系统性论述。通谕在天主教内具有教义权威,虽然不强制信徒接受其技术观点,但至少为全世界的天主教徒——约占人口六分之一——提供了一个审视AI的道德坐标。
跟这条新闻放在一起看,另外两条消息显得特别有对比感。一条是TechCrunch报道的:电竞创业公司Lucra Sports融了2000万美元,而VC现在几乎只投AI。创始人Dylan Robbins分享了一个"pitch trick"——他到底是怎么在VC只看AI的时代拿到钱的?文章说"没人做过他做的事",但具体内容需要点进原文看。这个故事从侧面说明:即使市场对AI狂热,好的非AI项目仍然可能突围,关键在于怎么讲故事。
另一条是荷兰扣押了800台服务器,逮捕了两名涉嫌协助网络攻击的人。KrebsOnSecurity报道,这800台服务器被用于发动网络攻击。这条新闻本身跟AI没有直接关系,但它提醒我们:任何技术基础设施,包括服务器,都可能成为武器。教皇通谕中警告的"技术权力滥用",不正是从物理层面的服务器集群开始的吗?
有意思的是,Hacker News上关于教皇通谕的讨论有246分、101条评论,而关于荷兰服务器扣押的只有96分、11条评论。技术社区对伦理讨论的关注度,有时候比具体执法行动还高。
教皇的新通谕不会改变AI研发的方向,但它给了普通人一个思考框架:当我们在讨论大模型、AGI、超级智能的时候,有没有想过谁在定义"人性"?技术寡头未必手握核按钮,但他们拿着算法按钮,比核按钮更加无处不在。