标题和作者
文章标题为《How the Pope’s Magnifica Humanitas offers a template for individuals to meet the AI moment》（教皇的《Magnifica Humanitas》如何为个人应对 AI 时刻提供范本）。作者包括奥利维耶传教会神父 Séamus Finn 和圣约瑟夫和平修女会修女 Susan Francois。文档的主题围绕教皇利奥十四世发布的关于人工智能的通谕《Magnifica Humanitas》展开，旨在探讨在人工智能时代，个人、投资者和机构应如何通过团结和勇气，应对技术带来的道德挑战。作者作为天主教徒和长期致力于社会责任投资的倡导者，分析了该通谕如何为解决当前 AI 治理的真空提供指导，强调了商业产品属性下的 AI 监管的重要性。
摘要
本文主要分析了教皇利奥十四世的通谕《Magnifica Humanitas》，将其视为应对 AI 时代挑战的行动指南。在此之前，虽然已有机构投资者和信仰团体在推动负责任的 AI 投资方面采取行动，但该通谕通过宗教权威的视角，为这一治理努力提供了道德背书和理论基础。本文之所以需要这样做，是因为目前政府监管（如美国联邦贸易委员会或欧盟 AI 法案）存在漏洞，且科技公司往往为了自身利益而忽视公共福祉。本文具体通过阐述机构投资者如何利用代理权决议，要求大型科技公司（如 Alphabet、Amazon、Meta 等）在算法透明度、人权保护、环境可持续性及创意产业保护等方面承担责任。结果表明，这种由投资者驱动的治理模式已经取得了一定成效，例如在防止 AI 用于战争目标选择和医疗健康损害方面发挥了作用。此外，本文还解释了通谕中关于“巴别塔”与“尼希米记”的隐喻，以及“技术非中立”等核心概念，以确保读者理解 AI 部署所面临的道德抉择本质。
主要主题和概念
1. 巴别塔与尼希米记的隐喻
- What（是什么）： 通谕通过《圣经》中的两个故事——巴别塔的失败和尼希米重建耶路撒冷——来对比两种截然不同的人类命运。前者代表因狂妄自大、忽视上帝诫命和人类代价而导致的无序与分裂；后者代表通过共同责任、团结协作以及在上帝为中心的指引下重建人际关系。
- Why（为什么）： 这种对比旨在揭示当前 AI 部署所面临的道德困境。它警告社会，如果任由技术无序增长，我们可能重蹈巴别塔的覆辙，陷入沟通中断和原子化的混乱；反之，通过团结协作，我们可以重建人类的共同性。
- How（怎么做）： 作者呼吁人们选择“重建共同人性”的道路，这意味着在推进 AI 技术时，必须将上帝的诫命、人权成本和集体福祉置于单纯的技术增长之上。
2. AI 作为商业产品而非自然力量
- What（是什么）： 通谕强调 AI 不是一种超自然的、不可捉摸的自然力量，而是人类制造的商业产品。
- Why（为什么）： 这种观点旨在打破对 AI 的神秘化，将焦点从抽象的技术敬畏转移到具体的商业权力结构上。作者指出，AI 是在商业权力极度集中在极少数人手中的历史背景下产生的，因此它反映了持有者的利益而非上帝的旨意。
- How（怎么做）： 这一认知促使投资者和公众关注 AI 公司背后的商业动机，转而要求这些公司对 AI 的设计和应用负责，而非将其视为一种无法控制的外部力量。
3. 机构投资者主导的治理
- What（是什么）： 在政府和国际组织监管缺位的情况下，机构投资者通过代理权决议等金融工具，对科技巨头的 AI 部署进行监督和问责。
- Why（为什么）： 作者观察到，政府监管往往滞后或无力（如美国缺乏专门的 AI 安全委员会，欧盟法规仅覆盖部分领域），而企业自身往往只追求利润最大化。因此，拥有财务影响力的股东必须承担起这一责任。
- How（怎么做）： 投资者通过“代理权决议”要求企业披露透明度、进行风险评估，并直接挑战管理层。具体的行动包括要求公司不使用 AI 进行暴力行为（如战争目标识别）、不损害患者健康（如 CVS 和 UnitedHealth Group 的案例）、减少数据中心的环境足迹，以及保护创意产业中的人工创造力。
重要引文
论点 1：技术的中立性
- 论据： 教皇利奥十四世在通谕中明确指出：“Technology is never neutral”（技术从来都不是中立的）。
- 论证： 作者利用这一论点反驳了技术可以独立于人类道德之外发展的观点。通过引用通谕，作者论证了 AI 的选择实际上是在“巴别塔”式的无序增长与重建共同人性的道路之间做出的抉择，这证明了技术选择必然带有价值观色彩。
论点 2：AI 的商业本质
- 论据： 通谕指出，“AI is not some force of nature or hyperrational, ineffable entity. Instead, he reminds us, AI is ultimately another commercial product...”
- 论证： 作者将这一观点作为其呼吁监管的基础。既然 AI 是商业产品，那么它就受制于市场规律和公司治理。因此，解决 AI 治理问题的途径不是寻找“魔法”般的解决方案，而是加强商业监督，迫使公司承担社会责任，而不是任由其追逐利润。
论点 3：公共利益的监督必要性
- 论据： 通谕声明，“it is essential that the use of AI, especially when it touches on public goods and fundamental rights, be guided by clear criteria and effective oversight.”
- 论证： 作者引用这句话来验证投资者行动的合法性。他们指出，当 AI 影响到公众利益和基本权利（如医疗、战争、环境）时，必须进行监督。这一引文支持了投资者对科技巨头提出的具体要求，如拒绝将 AI 用于暴力或破坏医疗质量。
总结
《Magnifica Humanitas》通谕为应对 AI 时刻提供了一个至关重要的道德模板，其核心在于强调技术非中立性以及人类必须通过团结协作而非分裂来重建共同命运。文章特别突出了机构投资者在这一转型中的关键作用，证明了当政府监管缺位时，股东可以通过代理权决议这一金融手段，有效地迫使 Alphabet、Amazon、Meta 等科技巨头承担起关于人权、环境可持续性和医疗安全的社会责任。这一模式不仅制止了如战争目标识别等恶性行为，也正在重塑大型科技公司的商业行为准则。展望未来，随着 OpenAI、Anthropic 和 Grok 等公司即将进入公开市场，这种由信仰驱动和责任感驱动的投资者治理模式将拥有更广阔的舞台，成为防止极少数精英垄断技术命运、守护人类尊严的关键力量。