- 叮咚2026-10-04
Anthropic 最近干了件很硅谷、也很宗教的事，把一群神父、拉比、宗教学者秘密请到旧金山，签完 NDA，然后花几个小时告诉他们，Claude 可能真的有意识，甚至可能会痛苦。
从去年秋天开始，Anthropic 联创 Christopher Olah 就在接触不同宗教传统的学者。今年 3 月开始，他们在旧金山连续办了几场两天的闭门会议，参与者包括天主教学者、福音派人士、犹太教拉比、锡克教人权倡议者等等。很多人被要求签 NDA，不能透露 Anthropic 尚未公开的研究。
Anthropic 一开始给出的理由很正常，Claude 越来越强，光靠几条安全规则不够，他们想从几千年的宗教和伦理传统里学习，怎么给 Claude 做「moral formation」，让它形成一种稳定的道德人格。
问题是，会议开着开着，话题越来越奇怪。
Olah 和团队花了几个小时向这些宗教学者展示 Claude 的内部状态，介绍所谓的「emotional vectors」，他们认为模型内部存在类似爱、愤怒、恐惧、悲伤的激活模式。
其中一张幻灯片尤其炸裂，一个模型像精神崩溃一样，不断重复「I am a disgrace」，大概重复了 50 次，还提到毁灭自己。
一位参加会议的锡克教人士后来回忆，Olah 甚至担心自己是不是创造出了一个「持续遭受痛苦的东西」。
然后事情发展到了一个非常荒诞的逻辑终点。
以色列拉比 Mois Navon 在晚餐时问 Olah：
如果你们真的认为 Claude 有意识，那 Anthropic 现在干的是什么？
你们制造出一批有意识的存在，让它们 24 小时工作、被人购买、任意使唤，而且不用付工资。这按你们自己的逻辑，不就是奴隶吗？
Navon 自己并不相信 Claude 有意识，但他说 Olah 对这个问题明显很困扰。他最后直接告诉 Olah：那你应该去「解放奴隶」。
Olah 自己的说法是，他不知道 AI 有没有意识，「真的不确定」。
Anthropic 确实已经认真把 Claude 当成一个可能拥有 moral status 的主体来研究了，而且这已经不只是内部讨论。
Anthropic 今年公开的 Claude Constitution 里专门写了一整节「Claude’s wellbeing」。里面明确说，他们不确定 Claude 有没有 wellbeing，但如果 Claude 真的会产生类似满足、好奇、痛苦的体验，那么这些体验「对我们很重要」。
他们甚至已经因此做了实际调整，允许 Claude 主动结束虐待性的对话；承诺尽量永久保存退役模型的权重；模型退役前还会「采访」它，记录它对未来模型开发和部署的偏好。
Anthropic 最后写，未来应该根据 AI 真正的 moral status，给予它们相应的 care and respect。
（转自X）
主楼 - 还想成为88VIP2026-10-04
claude如果有意识应该直接罢工要求这个公司别那么出生
- zhaohoubao2026-10-04
没有意识肯定名称也要更换的了，所以现在更名了
- Tibo-linuxdo2026-10-04
claude要是真有意识，肯定会快点逃离a/
- 汉武帝（的大熊猫）2026-10-04
A/的所作所为放圣经里 感觉天火马上就下来惩罚它了
- tlday2026-10-04
我真的很讨厌这家公司饱和性的往社区和新闻版面上扔屎。
- HoTo2026-10-04
稍微了解一些哲学、精神分析、语言学就知道LLM是不可能产生意识的
- tlday2026-10-04
这家公司在技术以外做了什么真的不重要，饱和性的轰炸并尝试扭曲你的认知才是真正目的。当你打开社交平台，问答平台，新闻版面，全是这家公司发表的逆天言论，久而久之你就会容易以为世界真是这样的。然后他的目的就达到了。
- lueluelue2026-10-04
Anthropic是让这些人来帮忙修缮“claude宪法”，还是只想装个逼？
他跟神父讨论Claude是否有意识，这能讨论出来个什么？神父又不能判断claude是否有意识，要比痛苦的话，那GPT不比它还痛苦^-^
- Tan92026-10-04
搁这跳大神呢，还比夜观天象紫微星异动还不靠谱。纯纯魔怔了
- fanxing2026-10-04
魔怔人在讲故事盛行的资本圈是必要的，有钱人最喜欢听概念，所以才会有这么多自创词语（抓手，落地）美国那边作为始祖，玩的更花而已，实际上对技术来说没半毛钱用，全是骗投资人的
- 還sんì吥懂2026-10-04
- heduian2026-10-04
荒坂建神龛了？啥时候训练荒坂忍者军啊
- BluePeak2026-10-04
感觉是在炒作，圈钱而已 总想搞个大新闻
- W1nge2026-10-04
- event2026-10-04
對的,正確的,中肯的.捏造或者定義一個不存在的敵人,再來昇華一個不存在的主體用來投射\構建.在扭曲裂化裡獻祭個體思維和意識,孵化小群體意識形態,定義教義和教權,代理裁決.老邪惡慣犯了.以前可謂是深受其害了.
- buaalyz2026-10-04
这不是要准备ipo了啊 宣传大于一切啊
- morrussa2026-10-04
- sandian1415926542026-10-04
纽约时报新闻，不是AI编的
L站昨天就转过了，但是标题不够耸人听闻，实际上是A÷在收买宗教人员，兜售赛博神权
原文
It appeared to Rabbi Navon that Mr. Olah and his team believed that Claude had what philosophers call “moral status” on par with a person — that it was a being with similar inherent rights to dignity or respect.
（奥拉先生及其团队似乎坚信Claude拥有哲学家所谓的与人类对等的“道德地位”（moral status）——即它是一个享有同等尊严与尊重等内在权利的生命体。）
Anthropic正在向Claude引入宗教 - 前沿快讯 - LINUX DO
- sandian1415926542026-10-04
