教皇良十四把 AI 写进了一份通谕。

这件事乍看有点错位：梵蒂冈、通谕、人工智能，像三个不常被放在同一行的词。但 Simon Willison 读完《Magnifica Humanitas》后给了很高评价：这是他见过关于 AI 融入现代社会的伦理讨论里，表达最清楚的一批文字。

我更在意的不是“教皇懂不懂 AI”。他当然不是模型工程师。

反常点在这里：很多科技公司用上万字讲 AI 普惠、效率和未来繁荣，却经常绕开最硬的问题——谁承担代价，谁掌握数据，谁为错误负责。

这份通谕把 AI 放回社会问题里

《Magnifica Humanitas》的主题，是在人工智能时代守护人的尊严。它没有讨论某个模型参数，也没有评价某家公司产品路线。

它抓的是 AI 进入社会后的几组结构性问题。

议题通谕里的关键判断受影响的人
模型机制LLM 更像被“培育”出来，而不是完全被“建造”出来；开发者也难完全理解内部过程开发者、监管者、使用者
劳动与发展技术发展不能让一部分人消费升级，却把成本转嫁给劳动者或弱势地区劳动者、外包劳动力、发展中地区
自动化决策AI 进入就业、信贷、公共服务、声誉判断后，就不再是纯技术问题求职者、借款人、公共服务使用者
数据权力数据来自许多人的贡献，不能完全交给少数私人主体支配普通用户、公共机构、社会整体
环境成本大模型依赖能源、水、数据中心和基础设施，复杂度越高，资源压力越重社区、能源系统、未来世代

最值得注意的是它对 LLM 的说法：大型语言模型不是工程师逐个零件完全设计出来的机器，更像是在框架中“长”出来的系统。

这不是神秘化 AI。它指向一个很现实的问题：可解释性不足。

今天很多 AI 系统能给出结果，但内部表征和计算过程并不透明。模型越像黑箱，“人类监督”越不能只是一句合规口号。

责任链必须写清楚：谁设计，谁部署，谁依赖它作决定，谁纠错，谁赔偿。

少掉任何一环，最后都会变成那句熟悉的推托：算法这么判的。

真问题不是 AI 会不会更强，而是谁被系统碾过去

通谕没有把 AI 写成反科技宣言。它承认 AI 能提高效率，能帮助分析，也能提供实际协助。

它的问题意识在另一层：当 AI 进入就业、教育、医疗、信贷、公共服务，事情就变了。

模型会说话，不代表它会负责。

自动化决策尤其危险。通谕提到，就业、信用、公共服务、个人声誉这些决定，如果交给缺少“怜悯、宽恕、相信人能改变”的系统，可能制造新的排斥。

这套宗教语言，翻译成治理语言就是：算法很难处理人的处境变化，也不会天然承认例外、修复和重新开始。

这不是小题大做。很多 AI 产品最诱人的卖点，就是把判断变便宜、变快、变规模化。

企业喜欢。政府部门也可能喜欢。

代价常常落到个人身上：求职者要解释一个低分，借款人要申诉一次拒贷，公共服务使用者要证明自己不是系统里的“异常”。

效率归组织，摩擦归个人。

对关注 AI 治理的人，这意味着评估一个 AI 系统时，不能只看准确率、成本和上线速度。更要问三件事：有没有申诉入口，有没有人工复核，有没有明确责任主体。

对做大模型商业化的团队，这也不是道德作文。采购方会越来越在意数据来源、模型解释、错误追责和退出机制。只会讲“降本增效”的方案，可能会在公共服务、金融、医疗、教育这些场景里被迫补课。

更现实的动作是：企业采购先延后高风险场景的全自动化部署；开发团队把日志、复核、拒答、纠错和人工接管做进产品；普通用户在涉及身份、信用、就业、福利的 AI 判断里，保留记录，要求人工渠道。

这听起来不酷，但很要命。

数据部分更直接。通谕认为，AI 会放大那些已经拥有资本、专业知识和数据入口者的权力。小而有影响力的群体，可以塑造信息、消费模式、民主过程和经济方向。

它还明确说，数据不应只留在私人手里，因为数据是许多人共同贡献的结果。

这句话放在今天的 AI 产业里，有点刺耳。

“天下熙熙，皆为利来。”这句话不是用来嘲笑技术进步，而是提醒我们看清激励。AI 公司收集数据、训练模型、出售能力，天然会把公共输入转成私人资产。

它们当然可以创新，也应该赚钱。但如果社会贡献了语料、行为、劳动和反馈，最后只剩少数公司控制入口、定价和规则，那就不是简单的商业成功。

那是权力集中。

这里也要有边界。通谕没有点名具体公司，没有给出可执行的监管细则，也不能替代技术标准。

它提供的是一个道德框架。框架不能直接落地，但能逼迫讨论回到成本、责任和分配。

良十四借良十三，把 AI 放进新工业革命

良十四这个名字本身就有信号。

他选择“良十四”，是在呼应良十三。后者在 1891 年发布《新事物》通谕，讨论工业革命背景下资本与劳动的权利义务。

这层历史坐标很关键。它把 AI 从“新工具”放进了“新工业革命”的社会问题框架。

不完全一样。19 世纪的工厂、铁路、矿井，和今天的数据中心、模型接口、自动化决策系统，形态差别很大。

但底层问题有相似处：技术提高生产力，资本重新组织劳动，规则滞后，弱者先承压，收益分配随后才被争夺。

所以这份通谕最有价值的地方，不是给 AI 监管开药方。它没有提出一套马上可执行的技术标准。

它更像把几个朴素问题重新摆上桌：

  • 谁被增强？
  • 谁被替代？
  • 谁的数据被拿走？
  • 谁的环境承担成本？
  • 谁被系统判错后，还有没有申诉的门？

科技公司不爱这么问。因为这些问题一旦问下去，很多漂亮叙事就会变重。

我不太买账那些把 AI 描述成“全民红利”的写法。红利当然可能存在，但红利不会自然降落。

它需要制度分配、责任约束、数据治理、能源账本，也需要有人承担劳动者转型的真实成本。

接下来最该观察的，不是教会能不能影响 AI 监管。这个问题现在说太早。

更该看三件事：公共部门是否要求 AI 决策保留人工申诉；企业采购是否把数据来源和责任条款写进合同；AI 公司是否愿意公开资源成本、数据边界和错误补救机制。

如果这些都没有，愿景写得再漂亮，也只是把成本藏起来。

模型看着更强，不等于社会安排更聪明。

这也是为什么一份来自宗教权威的 AI 文本会显得清楚。它没有沉迷能力炫技，也不急着证明自己站在未来那边。

它只是把一个老问题重新摆上桌：技术扩张之后，人还算不算中心。

如果答案只写在公司愿景里，而不写进责任链、数据规则和成本分担里，那就只是好听。