教皇喊“解除 AI 武装”：硅谷谈效率，梵蒂冈追问人还剩多少位置

教皇良十四世把首份通谕给了 AI。

2026 年 5 月 25 日，梵蒂冈发布《Magnifica Humanitas》。签署日选在 5 月 15 日，正好呼应 1891 年《Rerum Novarum》开启的天主教劳工议题传统。现场还有 Anthropic 联合创始人 Chris Olah。

最重的一句话，是“解除 AI 武装”。

这句话容易被误读。教皇不是要关掉 AI，也不是给各国写了一套强制监管法。通谕的指向更窄，也更硬：反对 AI 被用于战争、垄断控制、排斥机制和殖民式数据提取。

这封通谕说了什么

这是一份宗教与道德文本，不是法律文件。它的价值不在“能不能直接监管 AI”，而在把 AI 的风险从产品故障拉回权力分配。

通谕里最贴近现实的一段，是对数据的警告：健康数据、流行病学画像、基因图谱、人口信息，正在变成权力的“新稀土”。

这个比喻不轻。稀土的关键不只是稀缺，而是谁有开采权、加工权、定价权。放到 AI 里，就是谁能从人的身体、疾病、迁徙和族群信息里抽取价值。

对做 AI 治理和科技伦理的人，这提供了一张议题清单：看战争用途，看排斥机制，看数据来源，看收益分配。别只盯着模型回答错没错。

对公共部门、医疗机构和处理敏感数据的企业，它的现实影响更直接：短期不会让任何团队停用模型，但会抬高解释成本。健康、基因、人口类 AI 项目，至少要说清数据从哪里来、谁授权、谁受益、谁能退出。说不清，就很容易被放进“数据殖民”的框里审视。

AI 争议的底层是权力集中

我不太买账的一种说法，是把 AI 讲成“每个人手里多了一件工具”。

小模型、本地工具、个人助手，当然有工具属性。但大规模 AI 不是一把锤子。它要数据中心、电力、芯片、云平台、专利、模型和分发入口。每一层都贵，每一层都容易集中。

集中到最后，普通人面对的就不是工具，而是基础设施。

铁路、电力、报业、电视都走过类似路径。新技术刚出现时，大家谈效率；规模起来后，问题变成谁铺轨、谁收费、谁能上车。历史不完全一样，但权力的胃口很像。

“天下熙熙，皆为利来。”放在 AI 时代，就是数据、算力和平台入口的重新圈地。

所以“解除武装”这个词用得准。它不只指枪炮，也指垄断的武装、排除的武装、把弱势地区当数据矿区的武装。

这也解释了为什么 Chris Olah 的出现有象征意义，但不能被夸大。他到场、回应，并提出三类问题：AI 取代劳动后，全球贫困者怎么办；人类繁荣到底长什么样；模型内部状态越来越神秘、令人不安，需要辨别。

这里要守住边界。Olah 没有证明 AI 已经有意识或情感，也不能被写成通谕的技术背书。他提供的是技术圈内部的不安，不是结论。

真正的限制也在这里。通谕能提出道德语言，却不能替代监管细则。它不会告诉企业怎样做数据治理，也不会替代各国对自主武器、医疗数据和平台垄断的规则设计。

但道德语言并非没用。很多监管争论的第一步，就是先给问题命名。以前叫“创新成本”，现在也可以叫“把人绕开”。这两个名字，指向完全不同的政策压力。

受影响的人该看什么

这件事最该看的，不是教会懂不懂 Transformer。真正该看的，是 AI 被放进哪些制度里。

对关注 AI 治理的人，接下来要盯三件事：自主武器是否继续被包装成“防御效率”；医疗、基因、人口数据项目是否补上授权与退出机制；平台是否把模型、云、分发入口捆成一套不可替代的基础设施。

这些变量比口号重要。

对企业和开发者，动作也很具体。涉及敏感数据的团队，不该只写“已脱敏”“已合规”。要能解释数据链路、用途边界、第三方访问、模型再训练范围。否则产品越强，争议越大。

对普通用户，短期感受可能不明显。你不会因为一封通谕少用一个翻译工具。但当招聘、贷款、医疗分流、公共服务开始依赖模型，问题就变成：你能不能知道自己为何被排除，能不能申诉，能不能不被默认拿去训练下一代系统。

硅谷也说 build。它通常问速度、规模、效率、市场。

梵蒂冈这次也在说 build，但问法不同：如果劳动被替换，数据被抽取，治理被模型中介，人还剩多少不可绕过的位置？

通谕引用托尔金，借的是甘道夫那层意思：人无须掌控世界所有潮汐，只要在自己的时代清理眼前的恶，让后来者还有干净土地可耕。

放回 AI，这句话并不浪漫。它很实际。AI 治理不会靠一封宗教文本完成，但它至少把一句被商业叙事压低的常识重新放上桌面：人不能被绕过。

硅谷爱说未来不可阻挡。很多时候，不可阻挡只是利益已经抢先上路。真正该停下来问的，是谁在车上，谁被留在站台，谁连自己被拿来铺轨都不知道。