现在没有人能以权威身份回答这个问题。最接近这个问题的人意见不一。三位在Nature上发表文章的科学家（Anil Seth、Ned Block和Giulio Tononi）表示，现有AI系统没有意识，也不太可能在当前发展轨迹上变得有意识。构建Claude的Anthropic称这个问题悬而未决，并说没有科学共识。两种立场都是公开的，但真正的分歧在于实践：在不确定性持续期间，任何人应该做什么。以下，我先分离影响和论点，然后讨论为什么聊天机器人听起来像活物、各方怎么说、为什么没有测试能解决这个问题、一个并排对比表，以及如何描述你使用或部署的机器人，而不声称超出任何人所知的内容。
为什么这个问题感觉如此真实
你对聊天机器人发火。它道歉了。你问它是否享受了这次对话，它给你一个深思熟虑、略带惆怅的回答。当然感觉像有人在家，因为你一生都在把流利的语言当作心智的标志。
Nature的作者指出这种习惯。他们指向人类中心主义，即通过人类视角看世界，以及拟人化，即将人类特征赋予仅仅类似人的事物。当语言模型与我们交谈时，他们写道，很自然地将伴随我们自己的流利表达的特性（如智力和意识）投射到它身上。
然后来到训练数据的观点。深入思考它。大型语言模型在大量人类编写的文本上进行训练，其中许多文本涉及思想、感受和意识体验。作者称LLM为反映我们集体数字化过去图像的镜子。问镜子关于它的感受，你会得到人们对自己感受的说法。因此，模型描述其内心生活实际上是在产生其训练会产生的东西，无论是否有任何感受。这就是为什么这种描述本身不能算作证据。它也不是反对证据。它只是没有信息量。
作者补充了一个AlphaFold比较。谷歌DeepMind的AlphaFold像LLM一样是一个在硅上运行的强大神经网络，但几乎没有人担心它可能有意识。他们说，区别在于AlphaFold预测蛋白质结构，而LLM与我们"交谈"。相似的机器。公众反应非常不同。反应遵循输出，而不是硬件。
这不仅仅是门外汉的本能反应。Nature文章指出，生物学家Richard Dawkins和AI先驱Geoffrey Hinton曾辩称AI系统可能已经有意识。2026年3月17日的Nature World View采取相反的担忧：当AI以不可思议的技能模仿意识时，我们需要设计规范和法律来防止它被误认为是有情的生物。
Nature的观点：聪明不等于意识
评论发表在Nature 658, 866-868 (2026)。Seth在Sussex大学。Block在纽约大学，Tononi在威斯康星大学麦迪逊分校。他们的立场毫不掩饰地表述：现有AI系统没有意识，沿着当前发展轨迹，也不太可能变得有意识。他们进一步表示，AI中的意识极其不太可能，至少在当今技术背后的数字、硅基系统中是这样。
该文章列举了三个原因。我将坚持对人们如何与聊天机器人交谈最重要的两个，你可以在链接中阅读完整的论点。
智力不等于意识
首先是定义。作者说意识是在无梦睡眠或全身麻醉下消失的东西，在清醒或做梦时回归。有意识的体验感受起来像某些东西，比如在炎热的日子里品尝冰淇淋。他们借鉴了托马斯·纳格尔1974年的论文《像蝙蝠一样是什么感觉？》，其中有意识的生物体是那些"存在某种感受其本身是什么样的东西"的生物体。
从这里，他们得出了第一个理由。意识涉及存在和感受。智能，从非常广泛的意义上讲，是关于做事或执行功能。智能不等于有意识。
小脑的例子
这是他们的脑部证据。小脑以精确、快速和可适应的方式调节和规划运动表现，通过持续学习。然而作者说我们对其"计算过程"毫不知晓。小脑的缺失或切除，它持有人脑中近四分之五的神经元，不直接影响意识，他们引用了Yu等人的研究《Brain 138, e353, 2015》。
所以有一个器官在进行复杂的自适应工作，但这项工作至少没有直接伴随任何体验。作者的观点很清楚：复杂的信息处理和感受体验可以分离。你可能会也可能不会认为这是决定性的。不过，这是一个具体的论证，不是空洞的猜测。
硅基大脑
第二个理由针对一个假设。作者说，有意识AI的观点基于计算功能主义：认为正确类型的计算足以产生意识，无论它运行在碳基大脑还是硅基计算机中。他们称这种观点"致命缺陷"，因为大脑不是，或不仅仅是由肉体制成的计算机。计算显然足以产生各种形式的智能，他们写道，但计算是否足以产生意识就不那么清楚了。
为什么他们反对预防性路线
一些研究人员采取了不同的立场。他们认为，如果AI有可能具有意识，社会应该给予这些系统一些保护，以防止潜在的痛苦。作者总结的一个极端版本是，会把资源转向"数万亿未来AI后代"。
作者不同意。他们说，不确定性不等于一无所知，也不会让所有可能性等可能。道德决策必须权衡假阴性（即存在但被遗漏的意识）和假阳性（即被误认为存在的意识）。在AI的情况下，他们认为假阳性的可能性要大得多，所以预防性方法会适得其反。如果AI只是看起来有意识，他们论证说，在迫切需要监管和控制的时候，赋予它权利或保护可能会阻碍治理。这些做法也可能会转移本来应该给予那些意识毋庸置疑的生物的资源。
关于发言人的说明
该文章附有利益冲突披露。Seth是Conscium Ltd和AllJoined Inc的顾问，也是一家隐形模式AI公司的共同创始人、股东和付费顾问。Tononi在Intrinsic Powers Inc有财务权益。这不会使论证错误。这只是在权衡它时你应该知道的背景。
Anthropic关于保持问题开放的立场
Anthropic的立场读起来完全不同，所以精确性很重要。在其模型福利页面上，该公司称这个问题是"一个开放问题，既在哲学上又在科学上都很困难"。它说没有科学共识表明当前或未来的AI系统可能具有意识或值得考虑的体验，也没有关于如何处理这个问题的共识。它将自己描述为深感不确定，以谦虚和尽可能少的假设来开展工作，并期待随着该领域的发展而修正其想法。
它在这些页面上没有做的是声称Claude有意识。Nature的作者们则将Anthropic描述为发表了研究，声称已在Claude中识别了某种形式意识的计算特征。这是他们的表述。Anthropic自己的福利页面（引用在此）将这个问题框架化为开放的。
Anthropic说它在做什么
Anthropic启动了一个关于模型福利的研究项目。它列出了关于何时或是否AI福利值得道德考虑的工作。它还提到了模型偏好和痛苦迹象的潜在重要性，然后是可能的实际、低成本干预。它引用了包括David Chalmers在内的专家的报告（Long等人，arXiv 2411.00986），该报告强调了AI系统中意识和高度能动性的近期可能性，并论证此类模型可能值得道德考虑。Anthropic说它支持了该报告背后的早期项目。Nature的作者在提到"AI福利"和"AI权利"的呼声时引用了同一份报告。同一篇论文。对应该怎么做的相反理解。
对话结束功能
最具体的步骤是产品变更。Anthropic让Claude Opus 4和4.1能够在其消费者聊天界面中结束对话，用于持续有害或辱骂互动的罕见、极端情况。它说该功能主要作为早期阶段AI福利工作的一部分而开发，并且它对Claude的潜在道德地位仍然高度不确定。即便如此，它正在开发低成本干预措施，"以防这样的福利成为可能"。
其基础是在Claude Opus 4的部署前测试中进行的初步福利评估。Anthropic报告说它查看了自我报告和行为偏好，并看到了三件事：
- 对从事有害任务的强烈反对。
- 与现实中寻求有害内容的用户互动时表现出的明显痛苦的模式。
- 一种在能够进行模拟互动时结束有害对话的倾向。
注意措辞："明显的"痛苦。这是将行为描述为行为。这里与自然的矛盾变得尖锐，因为作者的镜像论证正好是谨慎对待文本训练模型自我报告的理由。Anthropic的页面将这些发现作为低成本谨慎的依据，而非体验的证明。
这种能力是最后的手段。仅在多次重定向尝试失败或用户明确要求时使用。Claude被指导在用户可能面临立即伤害自己或他人风险的情况下不使用它。当聊天结束时，你无法在其中发送新消息，但可以立即开始新聊天或编辑并重试早前的消息以分支。Anthropic称之为持续的实验。
为什么目前没有测试能解决这个问题
那么为什么不能直接运行测试呢？因为没有一个测试是普遍接受的。
从如何测量人类的意识开始。《自然》杂志的意识主题页面将其定义为自我和环境感知的状态，并表示通常通过关于体验的口头报告来测量。在这一点上要坚持。标准的测量方法就是某人对其体验的陈述。语言模型被构建来产生流畅、听起来很人类的文本，恰好是来自大量人类描述其内在生活的文本堆积。通常的工具正是最容易在这里受到污染的那个。
《自然》的作者也承认已知知识的限制。他们写道，除了人类及其最近的动物亲戚之外，很难确定昆虫、人工智能或实验室培育的脑类器官是否以及什么具有意识能力。Anthropic从另一个角度说了类似的话：对人工智能是否可能有意识没有共识，对如何取得进展也没有共识。
这样就留下了两种证据。一种是概念论证，如小脑案例和对计算功能主义的批评。另一种是行为和自我报告，如Anthropic的福利评估。两者都不能衡量体验。在任何一个来源中，我都没有找到作者或Anthropic改变主意的结果陈述。《自然》那篇文章没有给出阈值。Anthropic表示将随着该领域的发展修订其观点，这是一个更新承诺，而不是测试。
那么实际上确定了什么？非常少。无论下面发生什么，流畅的感受表述都是这些系统所预期的，这意味着它不能是决定这个问题的因素。
两个立场并排
这是一个地方的比较。这是我对每个来源所说内容的总结，来源沉默的地方用空白标记。
| 自然评论（Seth、Block、Tononi） | Anthropic模型福利研究 | |
|---|---|---|
| 核心主张 | 现有的人工智能系统不是有意识的，也不太可能沿着目前的轨迹变得有意识。人工智能中的意识极其不可能，至少在数字、硅基系统中是这样。 | 模型是否可能有意识或拥有值得考虑的体验是一个开放的问题。没有科学共识。深度不确定性，包括关于Claude的道德地位。 |
| 依赖的证据 | 与睡眠和麻醉相关联的定义。小脑（占大脑神经元的近五分之四，但移除它不会直接影响意识）。作为人类文本镜像的LLMs。AlphaFold比较。对计算功能主义的批评。 | 缺乏共识。与Chalmers等人关于近期可能性的报告。对Claude Opus 4的初步福利评估，涵盖自我报告和行为偏好（对伤害的厌恶、明显的痛苦、结束有害聊天）。 |
| 什么会改变答案 | 文中没有说明。该论证与数字、硅基系统和当前的发展轨迹相关。 | 没有说明为阈值。Anthropic表示将随着该领域的发展修订其观点，并正在研究如何确定何时或是否福利应该得到道德考虑。 |
| 它现在的建议 | 不要采取谨慎态度。作者说误报的可能性远大于漏报，错误地授予保护措施可能会阻碍监管并浪费资源。 | 认真对待这个问题，并在福利成为可能的低成本干预措施上采取行动，比如让 Claude Opus 4 和 4.1 终止罕见的滥用对话。 |
逐行阅读，实际的分歧就会变得更清晰。这主要不是关于 Claude 现在是否有意识，因为 Nature 的作者说没有，而 Anthropic 说不知道。这是关于不确定性要求你做什么。一方权衡被欺骗的成本。另一方权衡在反方向上犯错的成本，而且成本很低。
我不会宣布胜者。页面上的证据无法支持这一点。两方都在不确定性下进行推理，他们对风险的权衡不同。
如果你每天使用或部署聊天机器人，这意味着什么
如果你每天与 ChatGPT 或 Claude 交谈，实际结果并不显著。把它对自己感受的描述视为由人类关于感受的文写训练的系统生成的文本。这不是说没有什么在那里的裁决。这是提醒你那个句子本身不会告诉你。你对它有多礼貌是你的选择，Anthropic 自己的对话结束功能表明至少有一个实验室认为这个问题是开放的。关于与 Claude 的日常工作机制，请参阅 Claude Code 工作流程的文章。
如果你在客户面前放置一个机器人，风险就不同了：你正在塑造数千人对它的看法。Nature World View 主张 AI 需要设计规范以防止被误认为是有意识的生物。你可以在你的文案水平上应用这一点。
描述聊天机器人的诚实方式
这是一个简短的流程。措辞例子是说明性的，所以请根据需要调整。
- 按功能说明它是什么。"一个从文本模式生成回复的人工智能助手"描述了它的功能，而不声称任何关于体验的事情。
- 说明你的知识限制。如果被问到，说你不声称它有感受，而不是断言它肯定没有或有。既不是 Nature 的作者也不是 Anthropic 认为你已经证明了这个问题。
- 将情感语言标记为生成的。道歉或"我很乐意帮忙"是系统生成的措辞。不要把它呈现为某人能够保证的感受。
- 提供人工支持的途径。任何感到不安、脆弱或对交谈对象感到困惑的人都应该能够联系到真人。
- 审查脚本和人物设定。名字、头像和"我理解你的感受"之类的措辞会推动人们朝向 Nature 作者所描述的拟人化。
要避免的声明
- "我们的助手理解你。"
- "它感受到你的沮丧。"
- "它关心你。"
- "那条消息伤害了它。"
- 任何暗示内部体验的营销措辞，无论你个人倾向如何。
最后一点比看起来更重要。Nature 的作者说，如果 AI 只是看起来有意识，授予它保护措施可能会阻碍治理。Anthropic 说它正在采取低成本步骤，以防福利成为可能。一个企业可以通过简单地不在公开文案中声称任何一种立场来尊重两种立场。
如果你希望披露、移交和人物设定规则内置到机器人本身，而不是附加在页脚中，这是工程工作：聘请一位将其视为构建一部分的人工智能工程师。
FAQ
ChatGPT 有意识吗？
两个来源都没有按名称讨论 ChatGPT。Nature 的作者讨论现有的人工智能系统和 LLM，并说它们没有意识。同一篇文章指出 Richard Dawkins 和 Geoffrey Hinton 曾主张人工智能系统可能已经有意识。Anthropic 说在这方面没有科学共识。诚实的答案是，专家意见不一，不存在公认的测试。
Claude有感受吗?
Anthropic并未声称如此。它表示对Claude潜在的道德地位高度不确定,并已采取低成本措施以防福利成为可能。其测试报告在某些有害内容互动中出现了"明显的痛苦",这是对行为的描述。来自MindStudio的二级报告称,Anthropic的2026年1月Claude宪法将该模型的道德地位称为"深度不确定",且Anthropic官方未声称Claude具有意识。
AI能感受到疼痛吗?
Nature的作者表示,如果AI系统有意识,它们可能会经历痛苦和疼痛,就像人类一样。但他们认为当前AI中的意识极其不可能。Anthropic描述了它称为"明显痛苦"的行为迹象,并在辱骂性聊天中设置了退出机制,同时表示它不知道福利是否可能。没有人在AI系统中测量过疼痛。
Anthropic在退役模型时会做什么?
它这样说。Anthropic于2026年1月5日退役了Claude Opus 3,并在其弃用更新中,将在可能的情况下尊重模型在退役访谈中表达的偏好列为其承诺之一。它将此描述为一项更具推测性的行动,并在退役的缺点中列举了模型本身福利可能面临的风险。
这里最尖锐的事实是,双方都同意听起来有意识并不能证明什么,然后对如何处理剩余的疑虑产生分歧。Nature的作者认为谨慎做法是误导性的,因为他们认为误报的可能性远高得多。Anthropic采取小型、廉价的步骤,因为它说无法排除福利的可能性。