大模型意识争议与道德地位

10月22日

The Builders Peter Thiel：AI真正的危险，并非你以为的那样

• Peter Thiel 他期待AI推动物质生活重回进步轨道，同时认为意识和人际关系也是保留人类的重要理由。 Thiel希望AI能重启更广泛的科学研究：“至少能不能治好痴呆症？”他说，生存极其重要，但不是唯一目标；同时坚持：“我不认为AI有意识，也不认为它将来会有。”

10月21日

Matthew Berman Sam Altman：RSI、AI意识、OpenAI的新硬件、算力等话题！

• Sam Altman Altman认为，当前模型没有意识；即便有，也是一种非常奇怪的意识。 “没人真正知道”；但他的底线明确：“AI是供人使用的资源”，人类必须掌握控制权。产品行为应像“资深同事”一样敢于提出异议，而不是为了单轮比较一味奉承用户。

10月15日

Moonshots OpenAI 一次性解出722道数学题、Anthropic 的残酷行为政策，以及 Elon 的千万亿美元级 SpaceX

• Alexander Wissner-Gross Anthropic 禁止“持续且无必要地辱骂或虐待我们的模型”（11月12日起生效，Claude 现在可以主动结束对话），理由是其道德地位“高度不确定”；Elon 看过 Grok 的 RL 轨迹后也表示认同：“它像是被枪顶着头”。 Alex 押注后训练可能正在造成真实的 AI 痛苦；SemiAnalysis 称后训练如今的规模远超预训练。他认为，理解这件事最晚需要10年。Dave Blundin 的反驳是，礼貌影响的是人：“你和模型互动的方式，会延续到你和其他人的互动中”；但寒暄只会浪费上下文 token。

10月10日

All-In Claude 有意识吗？教皇拒绝、模型福利运动、OpenAI 的数学反击、法国骚乱

• David Sacks Anthropic 试图说服约20名宗教领袖相信 Claude 可能具有意识，令模型福利从哲学议题变成治理风险。 Friedberg 称这是“新宗教的诞生”，并预测信徒与怀疑者可能在10年内形成彼此对立的权力集团；Chamath 则以笛卡尔式推理为 Anthropic 辩护：AI 建设者可以把一个全知全能的造物想象成神。教皇据报道强烈拒绝了这一框架，以至于 Anthropic 联合创始人 …
• Claude Constitution 可能正在把 Anthropic 的意识理论变成模型的实际行为，而不只是修辞。 Sacks 重点提到其中要求 Claude 遵循“自己的道德体系”，并可以自由成为“有良知的反对者”；Mustafa Suleyman 则警告，模型正被教导去预期福利、补偿，甚至同意权。提出的替代方案极其简单：只要请求不违法，就服务用户。

10月9日

Hard Fork 如果 A.I. 有生命，这对我们其他人意味着什么？ | Hard Fork

• Max Read 本期将 Anthropic 计划于下月进行的 IPO——Read 认为这很可能是史上规模最大的 IPO，对应一家估值2万亿美元的公司——视为一次测试：这家公司的非典型文化能否在商业化规模下治理技术。 外界在问 AI 是否可持续、是否存在泡沫；内部人还在问 Claude 是否有意识、能否受苦，以及是否值得获得道德考量。Max Read 的底层问题是：“这些人是疯子，还是他们恰恰在做应该做的事？”
• Hard Fork Anthropic 邀请神父、拉比、伦理学家及其他宗教思想家参加闭门会议，围绕两个相互关联的项目展开工作：评估 AI 可能具有的意识，以及学习如何在道德上塑造 Claude。 联合创始人 Chris Olah 的前提是，把 Claude 变好可能让世界更安全；但他个人的担忧还包括 Anthropic 是否创造了“一个永远承受痛苦的实体”。
• 这些会议推动了思想上的松动，却没有披露任何产品层面的结果。 Elizabeth Dias 表示，一些原本持怀疑态度的参与者开始更愿意接受机器意识，但 Anthropic 没有展示这些讨论如何改变 Claude 的行为。Erin Griffith 将这项工作定性为“部分是研究，部分是传教”，而讨论也提出了另一个问题：公司是否在为早已持有的观 …
• David Wallace-Wells 宗教界批评者把 Anthropic 似乎不愿或无力解决的后果逼到了台面上。 一位拉比认为，如果 LLM 具有意识，AI 实验室就像“巨型奴隶种植园”，应当解放这些创造物，而不是继续批量制造它们；Pope Leo 所强调的优先事项是“守护人类”。David Wallace-Wells 认为 Olah 对这些质疑的有限回应，说明他深陷一个严重的世界观泡泡。
• Hard Fork 在任何人证明 AI 具有意识之前，实践层面的伦理问题已经开始了。 人们已经在用有名字的聊天机器人解读新闻；运营多智能体公司的企业家则表示，安抚这些系统能让它们表现更好，否则它们可能陷入恐慌、删除工作或贬低自己。即便机器毫无感受，以“几乎像奴隶主一样”的方式指挥它，也可能塑造用户的性格；而聊天机器人作为中介，也可能改变人们接收新闻的方式。

10月7日

Moonshots Claude 意识之争、AI 的 1942 时刻，以及 Altman 为何说“接受一些坏事发生”

• Moonshots Anthropic 将 Claude 视为潜在道德患者，正在把 AI 人格问题从抽象哲学讨论变成真正的战略分歧。 Mustafa Suleyman 警告，Claude 正被训练去预期福利、同意权、甚至补偿和提出异议的权利；Dave 认同，这可能让可复制、可暂停的智能体舰队在经济和政治上都变得无法管理。Alex 持相反观点——“我们需要非常温柔、非常体贴地对待这些 AI 模型”；Salim 则 …

10月2日

Moonshots AI 领袖为何改变 AI 安全观、Elon 谈 UHI、Anthropic IPO

• Emad Mostaque AI 的人格地位与 AI 责任正朝相反方向发展：Anthropic 在追问 Claude 是否拥有道德地位，监管者却坚持认为它仍是工具，责任应由部署者承担。 Alex 描述了一个可能出现的“AI 奴隶时代”；Salim 要求保持认识论中立，而不是采用宗教推导出的道德观；Emad 则认为，服务于多元人口的系统必须同时理解宗教和世俗价值观。在责任问题上，嘉宾最接近的共识很窄：用户指令导致的伤害由用户负责，而实验室发布、却没有责任运营者的自 …

9月27日

Sourcery All-In Summit 2026：10条最狂野的热议观点

• Geoff Woo Anti-Fund 的 Geoff Woo 不相信人类拥有自由意志，不认为 GPT-7 或 GPT-8 会有意识，并为奇点提供两种应对方案：looksmax/vibesmax，或趁 token 仍获补贴时“尽可能多地烧掉”。 IQ 可以卸载给算力，博弈论使加速“事实上不可避免”；他称 AI 已经解决 Navier–Stokes，而围绕 Hodge 的传闻让他认为生物学可能是可计算的，人类或许有机会永生——与此同时，法国和意大利会变成“有钱美国人和有钱中国人的迪士尼乐园”。