Anthropic、OpenAI向宗教界取经：AI如何学会分辨是非？
科技公司为了帮助AI作出符合道德的回应，正越来越多地向宗教人士求助。Anthropic已与多个宗教团体合作，OpenAI、Meta等公司也在与梵蒂冈等机构接触。但学者担忧，将宗教视为可提取的规则手册可能优先某些传统、扭曲其他信仰，甚至抹平各传统独有特征。
信理部部长维克托·曼努埃尔·费尔南德斯枢机，与神学家安娜·罗兰兹、
Anthropic联合创始人克里斯托弗·奥拉交谈。
北京时间10月26日，据美联社报道，科技公司一边比拼更强的人工智能，一边越来越多地找哲学家和宗教人士出主意，想让AI分清对错、给出合乎道德的回应。不过有学者和宗教人士提醒，不同信仰的价值观可能彼此打架，把宗教思想捏成一套AI道德准则，反倒可能扭曲各传统原本的意思。
Anthropic联合创始人克里斯·奥拉（Chris Olah）今年早些时候在梵蒂冈一场关于AI的活动上说过，这些问题实验室独自答不了，宗教传统已经琢磨了几千年。
OpenAI首席执行官山姆·奥特曼
报道称，科技公司一般不属于某个特定宗教，所以往往想糅合不同传统里的道德观念来给模型指路。OpenAI首席执行官萨姆·奥尔特曼去年就表示，他认为ChatGPT应当体现人类道德观的某种“加权平均”。
问题是，这套思路引来了争议。密歇根大学人类学家韦布·基恩（Webb Keane）认为，把宗教看成一套能单独抽出来的规则或原则，会漏掉信众日常生活中的实践，也看轻了教义、仪式和人际关系。
基恩说，科技公司若假定每种宗教都能提供一组可提取的道德原则，再拿去训练AI，就可能抬高某些传统、扭曲另一些传统，尤其是那些并不主要把自己理解为伦理体系的信仰。他还指出，把宗教当成“规则手册”，这种理解跟重视经典的宗教走得很近，尤其接近亚伯拉罕诸教的传统。
参与交流的人士也认可科技公司的努力。Anthropic今年5月在一篇博客中称，公司已与来自15个以上宗教及跨文化群体的学者、神职人员、哲学家和伦理学家见过面，并希望继续扩大范围。不过，公司没有逐一列明这些传统。
圣母大学宗教哲学家梅根·沙利文（Meghan Sullivan）今年参加了Anthropic组织的一场会议，与会者包括不同教派的基督徒。她说，比起自己跟其他科技公司的交流，Anthropic对宗教问题的认真探讨让她印象很深。
沙利文介绍，会议先由公司用通俗语言讲解模型，再由宗教人士提反馈、展开讨论。议题既有“人类是否拥有灵魂”，也有“小学三年级学生是否应当使用聊天机器人学习读写”这类具体问题。
美联社称，Meta、谷歌和亚马逊的代表也曾与梵蒂冈会面，微软同样在积极与宗教界交流。
争议还牵扯到科技公司怎么理解“宗教”本身。宗教学者、《世界宗教的发明》作者增泽知子（Tomoko Masuzawa）指出，把各种宗教划成边界清晰、可以相互比较的独立体系，是近代才形成的观念。她拿佛教和印度教举例说，欧洲学者到来之前，当地实践者并没有按后来那套明确分类来理解自己的传统。
于是有学者担心，科技公司就算请来不同信仰的代表，也可能照搬既有的西方分类方式，忽略不同文化理解信仰的差异。
Anthropic在上述博客中表示，目标不是让模型遵循某一种传统的世界观。公司希望Claude能以同等深入、严谨的方式理解宗教、世俗和政治等不同观点，并从这些交流中学习人们长期以来对良好品格如何形成的思考。
保罗·卡罗扎（Paolo Carozza）是Meta独立监督委员会的成员，也是一名研究天主教社会思想与技术的法律专家。他的顾虑在于，把各种思想汇到一起时，每种传统自身的独有特征或许会被磨平，最终得出一个偏折中、甚至偏向西方宗教的产物。
卡罗扎表示，成熟的传统能通过与外界互动吸收新知识，并逐步发展；AI则可能把不同思想直接混合，最终哪一种都理解不透。
