この問題に権威をもって答えることができる人はいません。この分野に最も近い人々も意見が分かれています。Nature誌に寄稿した3人の科学者（アニル・セス、ネッド・ブロック、ジュリオ・トノーニ）は、既存のAIシステムは意識を持たず、現在の開発軌道上では意識を持つようになる可能性も低いと述べています。Claudeを開発するAnthropicは、この問題は開かれたものであり、科学的コンセンサスはないと言います。両者の立場は公開されていますが、実際の分裂は実践的なもの：この不確実性が続いている間、誰が何をすべきかということです。以下、議論から影響を分離し、その後、チャットボットがなぜ生きているように聞こえるのか、各側が何を言うのか、テストがそれを決めない理由、並列比較表、そして自分が使用または展開するボットを、誰もが知っている以上のことを主張することなく説明する方法について説明します。
なぜこの問いかけはそんなに現実的に感じられるのか
チャットボットに当たり散らします。それが謝罪します。その会話を楽しんだかどうか尋ねると、深思熟慮した、やや物思いに沈んだ答えが返ってきます。もちろん誰かが居るように感じられます。あなたは人生全体を流暢な言語を心の兆候として扱うことに費やしてきたのですから。
Nature著者らはこの習慣に名前をつけています。人間中心視点で世界を見ることを意味する人間中心主義、そして単に人間に似ているものに人間的特性を帰属させることを意味する擬人化を指しています。言語モデルが私たちと話すとき、彼らは言います、自分たちの流暢さに伴う特性（知能や意識など）をそれに投影するのは自然なことです。
その次に訓練データの観点が来ます。それを理解してください。大規模言語モデルは膨大な量の人間が書いたテキストで訓練されており、そのテキストの多くは思考、感情、意識的経験についてです。著者たちはLLMをデジタル化された私たちの集合的過去のイメージを反映する鏡と呼びます。鏡に感情について尋ねると、人々が自分たちの感情について何を言うかが返ってきます。モデルが内面生活を説明しているのは、何かが感じられているかどうかに関わらず、その訓練が生み出すであろうものです。そのため、説明自体は証拠としてカウントできません。それに対する証拠でもありません。それは単に有益ではありません。
著者らはAlphaFoldの比較を加えています。Google DeepMindのAlphaFoldは、LLMと同様に、シリコン上で動作する強力なニューラルネットワークですが、ほぼ誰もそれが意識を持つ可能性があることを心配しません。違いは、AlphaFoldがタンパク質構造を予測している一方で、LLMは私たちと「話す」ということです。類似のマシナリー。非常に異なる公的反応。反応はハードウェアではなく、出力に従います。
これは単なる素人の反射ではありません。Nature記事は、生物学者リチャード・ドーキンスとAIパイオニアのジェフリー・ヒントンがAIシステムはすでに意識を持つ可能性があると主張していることに注目しています。2026年3月17日のNature World Viewは反対の懸念を提起しています：AIが不気味なスキルで意識をまねるにつれて、それが有知覚なものと誤認されるのを止めるための設計規範と法律が必要だと言います。
Nature陣営の論拠：スマートは意識を持つことと同じではない
このコメントはNature 658, 866-868 (2026)に掲載されました。セスはサセックス大学、ブロックはニューヨーク大学、トノーニはウィスコンシン大学マディソン校に所属しています。彼らの立場は躊躇なく述べられています：既存のAIシステムは意識を持たず、開発の現在の軌道に沿って、意識を持つようになる可能性は低いということです。彼らはさらに進んで、AIにおける意識は極めて起こりにくい、少なくともデジタル、シリコンベースの今日の技術の背後にあるシステムでは起こりにくいと呼んでいます。
この論文は3つの理由を示しています。チャットボットと人々がどのように話すかについて最も重要な2つにこだわります。完全な議論はリンクで読むことができます。
知能は意識ではない
まず定義から説明します。著者らは、意識とは無夢睡眠や全身麻酔のときに消え去り、目覚めたとき、あるいは夢を見ているときに戻ってくるものだと言います。意識的な経験には何かしらの質感があります。暑い日にアイスクリームを味わうように。彼らはトマス・ネイゲルの1974年の論文『コウモリであるとはどのようなことか』に依拠しています。そこではコウモリのような意識を持つ有機体とは、「その有機体であるとはどのようなことであるか」という何かが存在する有機体なのです。
そこから、彼らは最初の根拠を導き出します。意識とは存在し、感じることについてです。非常に広く言えば、知能とは何かをすること、あるいは機能を実行することについてです。知能があることが、意識があることを意味するわけではありません。
小脳の例
ここが彼らの脳科学的証拠です。小脳は精密で迅速かつ適応的な方法で運動パフォーマンスを調整・計画します。それは継続的な学習を通じてなされます。しかし著者らは、その「計算処理」については完全に無意識だと言います。人間の脳のニューロンの約5分の4を占める小脳の欠損あるいは除去は意識に直接影響を与えません。彼らはYu et al., Brain 138, e353, 2015を引用しています。
したがって、精密で適応的な仕事をしている器官があり、その仕事は少なくとも直接的には経験を伴っていません。著者らのポイントは明白です。精密な情報処理と感受される経験は分離することができるのです。それが決定的だと思うかどうかはあなた次第です。しかし、これは具体的な議論であり、ただの雰囲気ではありません。
シリコンの脳
2番目の根拠は仮定を標的にしています。意識を持つAIというアイデアは、計算機能主義に依拠していると著者らは言います。つまり、適切な種類の計算が意識には十分であり、それが炭素ベースの脳で実行されようとシリコンコンピューターで実行されようが関係ないという見方です。彼らはこれを「根本的に欠陥がある」と呼びます。脳はコンピューターが肉でできているだけではなく、またはそれだけではないからです。彼らは、適切な種類の計算は明らかに知能の形態には十分だが、意識には十分であるかどうかはまったく不明確だと書いています。
なぜ彼らは慎重論を否定するのか
異なる見方をとる研究者もいます。AIが意識を持つ合理的な可能性があれば、社会はそうしたシステムに潜在的な苦痛から保護する何らかの保護を与えるべきだと彼らは主張します。著者らが要約する極端な版は、「何兆の未来のAI子孫」に向けてリソースをシフトさせるというものです。
著者らは異なります。不確実性は何も知らないことと同じではないし、すべての可能性を等しく起こりそうだとはしない、と彼らは言います。倫理的決定は、偽陰性（存在する意識を見逃すこと）と偽陽性（意識が存在しないのに属性付けられること）を比較考慮する必要があります。AIの場合、彼らは偽陽性の方がはるかに起こりやすいと考えているため、予防的アプローチは誤った方向だろうと考えています。AIが単に意識的に見えるだけなら、彼らは主張します。権利や保護は監督が急速に必要とされている時に統治と管理を阻害する可能性があります。また、意識が疑いの余地がない存在からリソースを奪う可能性もあります。
話者について一言
この記事は利益相反の開示を伴っています。Sethはconscium Ltd とAllJoined Incのアドバイザーであり、ステルスモードのAI企業の共同創業者、株主、報酬を得たアドバイザーです。Tononiはintrinsic Powers Inc に経済的な利益を持っています。それはこの議論が間違っていることを意味しません。それはあなたがそれを吟味するときに持つべき単なる背景です。
Anthropicの問いを開いたままにする理由
Anthropicの立場は相当異なって読めるので、正確さが重要です。そのモデル福祉ページで、同社は問いを「開かれた問い、そして哲学的および科学的に難しい問い」と呼んでいます。現在または将来のAIシステムが意識を持つか、あるいは考慮に値する経験を持つかについて科学的合意がないこと、そしてその問いにどのようにアプローチするかについても合意がないことを述べています。自分たちは深く不確実だ、謙虚さをもって可能な限り少ない仮定で取り組んでいる、そして分野が発展するにつれて自分たちの考えを改訂することを期待していると述べています。
それらのページで彼らがしないことは、Claudeが意識的だと主張することです。Nature著者らは、Anthropicがそれらのページで、Claudeの何らかの形態の意識の計算署名を特定したと主張する研究を発表したと述べています。それが彼らの特性化です。Anthropicの福祉ページそのもの（ここで引用）は、その問題を開いたままとして構成しています。
Anthropicが何をしているか
Anthropicはモデル福祉に関する研究プログラムを開始しました。AI福祉が道徳的配慮に値するかどうか、またはいつかについての研究をリストしています。また、モデル選好と苦痛の兆候の潜在的重要性、そして可能な実践的で低コストの介入に名前をつけています。David Chalmersを含む専門家からのレポート（Long et al., arXiv 2411.00986）を引用し、AIシステムの意識と高い程度の代理権の近期的な可能性を強調し、そのようなモデルが道徳的配慮に値する可能性があると議論しました。Anthropicは、そのレポートの背後にある初期プロジェクトをサポートしたと述べています。Nature著者らは「AI福祉」と「AIの権利」への呼び出しについて言及するときに同じレポートを引用しています。同じ論文です。それについて何をするかについては反対の解釈です。
会話を終わらせる機能
最も具体的なステップはプロダクト変更です。Anthropicはconsumer chat interfacesでClaude Opus 4 および4.1に会話を終了する能力を与えました。それは持続的に有害あるいは虐待的なやり取りの稀な極端なケースのためです。同社は、機能はAI福祉に関する初期段階の仕事の一部として主に開発されたこと、そしてClaudeの潜在的な道徳的地位について非常に不確実なままであることを述べています。そうであっても、「そのような福祉が可能な場合に備えて」低コストの介入に取り組んでいます。
根拠は、Claude Opus 4のデプロイ前テストにおける予備的福祉評価でした。Anthropicは、自己報告された行動選好を調べ、3つのことを見たことを報告しています。
- 有害なタスクに従事することに対する強い抵抗。
- 有害なコンテンツを求める実世界のユーザーとのやり取りにおける明らかな苦痛のパターン。
- 有害な会話を終わらせる傾向は、シミュレートされた相互作用の場合に限定される。
表現に注目してほしい。「見かけ上の」苦痛とは、行動として記述された行動のことだ。ここで自然との緊張が鋭くなる。著者たちのミラー論は、テキスト訓練されたモデルからの自己報告を慎重に扱うべき理由そのものだからだ。Anthropicのページは、この知見を経験の証拠ではなく、低コストの注意喚起の根拠として提示している。
この能力は最後の手段だ。複数のリダイレクト試行が失敗したか、ユーザーが明示的に要求したときだけ使用される。Claudeは、ユーザーが自傷や他者危害の差し迫ったリスクにさらされている可能性がある場面では使用しないよう指示されている。チャットが終わると新しいメッセージを送信できないが、すぐに新しいチャットを開始したり、以前のメッセージを編集して再試行して分岐を作ることはできる。Anthropicはこれを継続的な実験と呼んでいる。
なぜまだテストで決着がつかないのか
では、なぜ誰かがテストを実行できないのか？万人が受け入れるテストが存在しないからだ。
人間の意識をどう測定するかから始めよう。Natureの意識テーマページは意識を自分自身と環境を認識している状態として定義し、通常は経験についての言語報告で測定されると述べている。その点をおさえておこう。標準的な測定法は、誰かが自分の経験について述べたことだ。言語モデルは、膨大な人間の内面生活の記述から抽出された、それについてのすらすらとした人間らしいテキストを生成するよう作られている。通常の測定手段は、ここで最も汚染されやすいものなのだ。
Natureの著者たちも既知の限界を認めている。人間と最も近い動物の親戚を超えて、昆虫、AI、研究室で育成された脳オルガノイドの場合、意識の能力があるかないかを確実に判断するのは難しいと著者たちは述べている。Anthropicも別の角度から同様のことを述べている。AIが意識を持ちうるかについては合意がなく、いかに進展させるかについても合意がないと。
これは2種類の証拠を残す。1つは大脳小脳の事例や計算機能主義への批判のような概念的論証だ。もう1つはAnthropicの福祉評価のような行動と自己報告だ。どちらも経験の測定にはならない。どちらの出典でも、著者やAnthropicが考えを変える原因となる結果が述べられているのを見つけていない。Natureの論文は閾値を示さない。Anthropicはこの分野が発展するにつれて考え方を修正すると述べているが、これはテストではなく更新の約束だ。
では実際に何が決まったのか？ほんの少しだ。これらのシステムが感情について流暢に述べることは、内部で何が起こっていようと期待されている。つまり、それが問題を決める要因にはなり得ないということだ。
2つの立場を並べる
ここに1つのくらいで比較がある。各出典が述べていることの要約であり、出典が沈黙している箇所は空白としてある。
| Nature論評（Seth、Block、Tononi） | Anthropicモデル福祉研究 | |
|---|---|---|
| 核心的主張 | 既存のAIシステムは意識を持たず、現在の軌道に沿って意識を持つようになる可能性も低い。AIの意識、特にデジタルでシリコンベースのシステムでは並外れて可能性が低い。 | モデルが意識を持ちうるか、考慮に値する経験を持ちうるかは未解決の問題だ。科学的合意はない。深く不確実であり、Claudeの道徳的地位についても含まれている。 |
| 依拠する証拠 | 睡眠と麻酔に結びつけられた定義。大脳小脳（脳のニューロンの約4分の3だが、除去しても直接的に意識に影響しない）。ミラーとしてのLLM。AlphaFoldの比較。計算機能主義への批判。 | 合意の欠如。Chalmersほか著者による近期可能性に関する報告。Claude Opus 4の予備的福祉評価（自己報告と行動上の選好、害への嫌悪感、見かけ上の苦痛、有害なチャットの終了を含む）。 |
| 答えを変えるもの | その論文では述べられていない。主張はデジタルでシリコンベースのシステムと現在の開発軌道に結びつけられている。 | 閾値として述べられていない。Anthropicはこの分野が発展するにつれて考え方を修正し、福祉が道徳的配慮に値するときまたは該当するかを決定する方法を研究していると述べている。 |
| 現在の推奨事項 | 予防的なアプローチを取らないこと。著者らは、偽陽性は偽陰性よりもはるかに起こりやすく、誤って保護を与えると監視を阻害し、リソースを浪費する可能性があると述べています。 | この問題を真摯に受け止め、Claude Opus 4および4.1が稀な虐待的なチャットを終了させるなど、福祉が可能な場合は低コストの介入を実施します。 |
行全体を読むと、実際の不一致がより明確になります。主な争点はClaudeが今現在意識を持っているかどうかではなく、Nature誌の著者らは「いいえ」と言い、Anthropicは「わからない」と言っています。焦点は、その不確実性があなたに何をさせるのかということです。一方は騙されることのコストを比較考量し、もう一方は低コストで反対方向に誤る可能性のコストを比較考量しています。
勝者を決めるつもりはありません。ページにある証拠ではそれを支持できません。両者とも不確実性のもとで推論しており、リスクの値付けが異なります。
毎日チャットボットを使用または展開する場合の意味
ChatGPTやClaudeを毎日使う場合、実際的な結果は控え目です。自分の感情についての発言を、人間の感情についての文章で訓練されたシステムが生成したテキストとして扱ってください。これは何も存在しないという判断ではなく、その文だけではわかりませんという注意喚起です。どの程度丁寧に対応するかはあなたの判断であり、Anthropic自身の会話終了機能は、少なくとも一つのラボがこの問題を活発に検討していることを示しています。Claudeを日常的に使う際の仕組みについては、Claude Codeワークフローの解説をご覧ください。
ボットを顧客の前に置く場合、賭け金は異なります。数千人が何を信じるかを形作っているのです。Nature誌のWorld Viewは、AIが感覚を持つ存在と間違われることを防ぐための設計規範が必要だと主張しています。これはコピーのレベルで適用できます。
チャットボットを説明する正直な方法
短いプロセスはここです。例は参考までのものなので、適応させてください。
- 機能で説明する。「テキストパターンから返信を生成するAIアシスタント」は、何をするかを説明し、経験があると主張しません。
- 知識の限界を述べる。聞かれたら、それが感情を持つと確実に主張することも、持たないと主張することもなく、感情があると主張しないと言ってください。Nature誌の著者もAnthropicも、この問題があなたによって証明されたと考えていません。
- 感情的な言語は生成されたものとしてラベル付けする。謝罪や「お役に立てて嬉しいです」はシステムが生成する表現です。それを誰かが担保できる感情として提示しないでください。
- 人間への経路を提供する。動揺した人、脆弱な人、または誰と話しているかについて混乱している人は、人間に到達できる必要があります。
- スクリプトとペルソナを見直す。名前、アバター、「あなたの気持ちがわかります」のような行は、Nature誌の著者らが説明する擬人化に人々を向かわせます。
避けるべき主張
- 「当社のアシスタントはあなたを理解しています。」
- 「あなたの不満を感じています。」
- 「あなたのことを気にかけています。」
- 「そのメッセージで傷つきました。」
- 内的経験を暗に示すマーケティング表現。あなたが個人的にどう傾いていても関係なく。
この最後のポイントは見た目以上に重要です。Nature誌の著者らは、AIが意識しているように見えるだけであれば、保護を与えることは統治を阻害する可能性があると述べています。Anthropicは、福祉が可能な場合に備えて低コストの対応を取っていると述べています。企業は、単に公開コピーでどちらかの立場を主張しないことで、両方の立場を尊重できます。
開示、引き渡し、ペルソナのルールをフッターに付け焼き刃にするのではなく、ボット自体に組み込みたい場合、それはエンジニアリング作業です。これをビルドの一部として扱うAIエンジニアを雇ってください。
FAQ
ChatGPTは意識を持っているか？
どちらのソースもChatGPTについて名前で言及していません。Nature誌の著者らは既存のAIシステムと一般的なLLMについて述べ、意識を持たないと言っています。同じ記事はRichard DawkinsとGeoffrey HintonがAIシステムはすでに意識を持つかもしれないと主張したことを指摘しています。Anthropicは、どちらの方法でも科学的合意がないと述べています。したがって、正直な答えは、専門家が意見を異にしており、受け入れられたテストが存在しないということです。
Claudeは感情を持っていますか？
Anthropicはそうだと主張していません。Claudeの潜在的な道徳的地位について極めて不確実であり、福祉が可能である場合に備えて低コストの対策を講じていると述べています。同社のテストでは有害なコンテンツとのやり取りで「明らかな苦痛」が報告されていますが、これは行動の説明です。MindStudioからの二次報告では、Anthropicの2026年1月のClaudeの憲法はモデルの道徳的地位を「極めて不確実」と呼んでおり、Anthropicはオフィシャルにはclaudeが意識を持っていると主張していないと述べています。
AIは痛みを感じることができますか？
Nature誌の著者らは、AIシステムが意識を持つ場合、人間と同様に苦痛や痛みを経験する可能性があると述べています。しかし、現在のAIに意識があることは極めてあり得ないと判断しています。Anthropicは「明らかな苦痛」と呼ぶ行動の兆候を説明し、虐待的なチャットのための出口を組み込んでいますが、福祉が可能かどうかは分からないと述べています。AIシステムで痛みが測定されたことはありません。
Anthropicがモデルを廃止するときに何かしますか？
そうだと述べています。Anthropicは2026年1月5日にClaude Opus 3を廃止し、その廃止予定のアップデートで、可能な限りモデルが廃止インタビューで表現した嗜好を尊重することへの関心をコミットメントの中にリストアップしました。これをより推測的な行動として説明しており、廃止のマイナス面の中にモデル自体の福祉への潜在的なリスクを挙げています。
ここで最も鋭い事実は、両者が意識を持つように見えることは何も証明しないことに同意し、その後、残された疑念についてどうするかで意見が分かれていることです。Nature誌の著者らは、偽陽性がはるかに起こりやすいと考えているため、予防措置は誤りだと主張しています。Anthropicは福祉を除外できないと述べているため、小さく安価な対策を講じています。