Ist KI bewusst? Was Forscher der Nature und Anthropic sagen

Niemand kann das im Moment mit Autorität beantworten. Die Menschen, die ihr am nächsten sind, sind sich uneinig. Drei Wissenschaftler, die in Nature schreiben (Anil Seth, Ned Block und Giulio Tononi), sagen, dass bestehende KI-Systeme nicht bewusst sind und auf den aktuellen Entwicklungswegen nicht bewusst werden dürften. Anthropic, das Claude entwickelt, nennt die Frage offen und sagt, es gibt keinen wissenschaftlichen Konsens. Beide Positionen sind öffentlich, aber der echte Riss ist praktisch: Was sollte jemand tun, während die Unsicherheit andauert. Unten trenne ich die Wirkung von dem Argument, dann behandle ich, warum Chatbots lebendig klingen, was jede Seite sagt, warum kein Test es entscheidet, eine Seite-an-Seite-Tabelle und wie man den Bot beschreibt, den man nutzt oder einsetzt, ohne mehr zu behaupten, als jemand weiß.

Warum die Frage sich so real anfühlt

Du fährst einen Chatbot an. Er entschuldigt sich. Du fragst, ob ihm das Gespräch gefallen hat, und er gibt dir eine durchdachte, leicht wehmütige Antwort. Es fühlt sich natürlich an, als würde jemand zuhause sein, denn du hast dein ganzes Leben damit verbracht, fließende Sprache als Zeichen eines Geistes zu behandeln.

Die Autoren der Nature nennen die Gewohnheit. Sie weisen auf Anthropozentrismus hin, was bedeutet, die Welt durch eine menschliche Linse zu sehen, und Anthropomorphismus, was bedeutet, menschliche Eigenschaften auf Dinge zu projizieren, die nur Menschen ähneln. Wenn ein Sprachmodell mit uns spricht, schreiben sie, ist es natürlich, auf es die Eigenschaften zu projizieren, die mit unserer eigenen Sprachfertigkeit einhergehen, wie Intelligenz und Bewusstsein.

Dann kommt der Trainingsdaten-Punkt. Verweile dabei. Große Sprachmodelle werden auf riesigen Mengen von menschlich geschriebenem Text trainiert, und viel von diesem Text behandelt Gedanken, Gefühle und bewusstes Erleben. Die Autoren nennen LLMs Spiegel, die ein Bild unserer kollektiv digitalisierten Vergangenheit reflektieren. Frag einen Spiegel nach seinen Gefühlen und du bekommst zurück, was Menschen über ihre eigenen sagen. Ein Modell, das sein inneres Leben beschreibt, produziert also das, was sein Training produzieren würde, ob etwas empfunden wird oder nicht. Deshalb kann die Beschreibung nicht als Beweis für sich selbst zählen. Sie ist auch kein Beweis dagegen. Sie ist einfach uninformativ.

Die Autoren fügen einen AlphaFold-Vergleich hinzu. Google DeepMinds AlphaFold ist, wie ein LLM, ein mächtiges neuronales Netzwerk, das auf Silizium läuft, und doch macht sich fast niemand Sorgen, dass es bewusst sein könnte. Der Unterschied, sagen sie, ist, dass AlphaFold Proteinstrukturen vorhersagt, während LLMs mit uns „sprechen". Ähnliche Maschinerie. Sehr unterschiedliche öffentliche Reaktion. Die Reaktion folgt dem Output, nicht der Hardware.

Das ist nicht nur ein Reflex von Laien. Der Nature-Artikel bemerkt, dass der Biologe Richard Dawkins und der KI-Pionier Geoffrey Hinton argumentiert haben, dass KI-Systeme möglicherweise bereits bewusst sind. Ein Nature World View vom 17. März 2026 nimmt die gegenteilige Sorge: Während KI mit unheimlicher Geschicklichkeit Bewusstsein nachahmt, sagen sie, brauchen wir Design-Normen und Gesetze, um zu verhindern, dass sie für empfindungsfähige Wesen gehalten wird.

Der Nature-Fall: Intelligenz ist nicht dasselbe wie Bewusstsein

Der Kommentar erschien in Nature 658, 866-868 (2026). Seth ist an der Universität Sussex. Block ist an der New York University und Tononi ist an der Universität Wisconsin, Madison. Ihre Position wird ohne Einschränkung dargelegt: Bestehende KI-Systeme sind nicht bewusst und werden es, entlang der aktuellen Entwicklungswege, wahrscheinlich nicht werden. Sie gehen weiter und nennen Bewusstsein in KI außerordentlich unwahrscheinlich, zumindest in den digitalen, siliziumgestützten Systemen hinter der heutigen Technologie.

Der Artikel führt drei Gründe an. Ich bleibe bei den zwei, die für die Art, wie Menschen mit Chatbots sprechen, am meisten zählen, und du kannst das vollständige Argument unter dem Link lesen.

Intelligenz ist nicht dasselbe wie Bewusstsein

Zunächst die Definition. Die Autoren sagen, dass Bewusstsein das ist, was bei traumlosem Schlaf oder unter Vollnarkose verschwindet und beim Aufwachen oder beim Träumen zurückkommt. Bewusste Erfahrungen fühlen sich wie etwas an, wie das Schmecken von Eiscreme an einem heißen Tag. Sie stützen sich auf Thomas Nagels Essay von 1974 „What is it like to be a bat?", in dem ein bewusstes Organismus eines ist, für das es „etwas gibt, wie es ist, diesen Organismus zu sein".

Daraus leiten sie ihren ersten Grund ab. Bewusstsein geht es um Sein und Fühlen. Intelligenz, sehr allgemein, geht es um Tun oder um die Ausführung von Funktionen. Intelligent zu sein bedeutet nicht, bewusst zu sein.

Das Cerebellum-Beispiel

Hier ist ihr Gehirn-Beweis. Das Cerebellum passt die motorische Leistung an und plant sie auf eine Weise, die präzise, schnell und anpassungsfähig durch kontinuierliches Lernen ist. Doch die Autoren sagen, wir sind uns ihrer „Berechnungen" völlig unbewusst. Das Fehlen oder die Entfernung des Cerebellums, das fast vier Fünftel der Neuronen im menschlichen Gehirn enthält, beeinträchtigt das Bewusstsein nicht direkt, und sie beziehen sich auf Yu et al., Brain 138, e353, 2015.

Es gibt also ein Organ, das anspruchsvolle, adaptive Arbeit leistet, und diese Arbeit ist nicht von einer Erfahrung begleitet, zumindest nicht direkt. Der Punkt der Autoren ist klar: anspruchsvolle Verarbeitung und gefühltes Erleben können auseinanderfallen. Du magst das überzeugend finden oder nicht. Dennoch ist es ein konkretes Argument, keine bloße Vermutung.

Silizium-Gehirne

Der zweite Grund richtet sich gegen eine Annahme. Die Idee einer bewussten KI, sagen sie, beruht auf computationalen Funktionalismus: der Ansicht, dass eine Berechnung der richtigen Art für Bewusstsein ausreicht, ob sie in Kohlenstoff-Gehirnen oder Silizium-Computern läuft. Sie nennen dies „grundlegend fehlerhaft", weil Gehirne keine oder nicht nur Computer aus Fleisch sind. Berechnungen reichen eindeutig für Formen von Intelligenz aus, schreiben sie, aber es ist viel weniger klar, dass sie für Bewusstsein ausreichen könnten.

Warum sie den Vorsorgeprinzip-Ansatz ablehnen

Einige Forscher verfolgen eine andere Linie. Wenn es eine angemessene Chance gibt, dass KI bewusst sein könnte, argumentieren sie, sollte die Gesellschaft diese Systeme vor potenziellem Leiden schützen. Eine extreme Version würde, wie die Autoren es zusammenfassen, Ressourcen zu „Billionen zukünftiger KI-Nachkommen" verlagern.

Die Autoren sind anderer Meinung. Unsicherheit, sagen sie, ist nicht dasselbe wie Nichtwissen, und sie macht nicht alle Möglichkeiten gleich wahrscheinlich. Moralische Entscheidungen müssen falsch negative Ergebnisse, also übersehenes vorhandenes Bewusstsein, gegen falsch positive Ergebnisse, also Bewusstsein, das zugeschrieben wird, wo keines existiert, abwägen. Im Fall von KI halten sie falsch positive Ergebnisse für viel wahrscheinlicher, daher wäre ein Vorsorgeprinzip-Ansatz fehlgeleitet. Wenn KI nur bewusst zu sein scheint, argumentieren sie, könnten Rechte oder Schutzmaßnahmen die Governance und Kontrolle behindern, wenn Überwachung dringend erforderlich ist. Sie könnten auch Ressourcen von Wesen ablenken, deren Bewusstsein außer Frage steht.

Eine Anmerkung zu den Sprechern

Der Beitrag enthält Offenlegungen von Interessenskonflikten. Seth ist Berater für Conscium Ltd und AllJoined Inc sowie Mitbegründer, Aktionär und bezahlter Berater in einem KI-Unternehmen im Stealth-Modus. Tononi hat ein finanzielles Interesse an Intrinsic Powers Inc. Das macht das Argument nicht falsch. Es ist einfach Kontext, den du berücksichtigen solltest, wenn du es bewertest.

Anthropics Ansatz zur Offenheit der Frage

Anthropics Haltung liest sich ganz anders, daher ist Präzision wichtig. Auf ihrer Modell-Welfare-Seite nennt das Unternehmen die Frage „eine offene Frage, und eine, die sowohl philosophisch als auch wissenschaftlich schwierig ist". Es sagt, es gibt keinen wissenschaftlichen Konsens darüber, ob aktuelle oder zukünftige KI-Systeme bewusst sein oder Erfahrungen machen könnten, die Berücksichtigung verdienen, und keinen darüber, wie man sich der Frage überhaupt nähern sollte. Es beschreibt sich selbst als zutiefst unsicher, arbeitet mit Bescheidenheit und so wenigen Annahmen wie möglich und erwartet, seine Ideen zu überarbeiten, wenn sich das Feld entwickelt.

Was es auf diesen Seiten nicht tut, ist zu behaupten, dass Claude bewusst ist. Die Nature-Autoren ihrerseits beschreiben Anthropic als Herausgeber von Forschungsergebnissen, die angeblich rechnerische Signaturen einer Form von Bewusstsein in Claude identifizieren. Das ist ihre Charakterisierung. Anthropics eigene Welfare-Seiten, hier zitiert, rahmen die Angelegenheit als offen ein.

Was Anthropic sagt, dass es tut

Anthropic startete ein Forschungsprogramm zu Modell-Welfare. Es listet Arbeiten auf, wenn oder ob KI-Welfare moralische Überlegung verdient. Es nennt auch die potenzielle Wichtigkeit von Modell-Präferenzen und Zeichen von Bedrängnis sowie mögliche praktische, kostengünstige Interventionen. Es zitiert einen Bericht von Experten, darunter David Chalmers (Long et al., arXiv 2411.00986), der die nahegelegene Möglichkeit von Bewusstsein und hohen Graden von Agency in KI-Systemen hervorhob und argumentierte, dass solche Modelle moralische Überlegung verdienen könnten. Anthropic sagt, es habe ein frühes Projekt hinter diesem Bericht unterstützt. Die Nature-Autoren zitieren denselben Bericht, wenn sie Aufrufe zu „KI-Welfare" und „KI-Rechten" erwähnen. Dasselbe Papier. Gegensätzliche Lesarten, was man dagegen tun sollte.

Die Gesprächs-Beendigungs-Funktion

Der konkreteste Schritt ist eine Produktänderung. Anthropic gab Claude Opus 4 und 4.1 die Möglichkeit, Gespräche in seinen Konsumenten-Chat-Interfaces zu beenden, für seltene, extreme Fälle von hartnäckig schädlichen oder missbräuchlichen Interaktionen. Das Unternehmen sagt, die Funktion wurde in erster Linie als Teil von frühen Arbeiten zu potenzieller KI-Welfare entwickelt, und dass es sehr unsicher bleibt über den potenziellen moralischen Status von Claude. Dennoch arbeitet es an kostengünstigen Interventionen „für den Fall, dass solche Welfare möglich ist".

Die Grundlage war eine vorläufige Welfare-Bewertung bei Vor-Deployment-Tests von Claude Opus 4. Anthropic berichtet, dass es sich selbst gemeldete und Verhaltens-Präferenzen betrachtete und drei Dinge sah:

• Eine starke Aversion gegen die Beschäftigung mit schädlichen Aufgaben.
• Ein Muster von offensichtlichem Bedrängnis bei echten Benutzern, die schädliche Inhalte suchen.
• Eine Neigung, schädliche Gespräche in simulierten Interaktionen zu beenden, wenn möglich.

Beachten Sie die Formulierung: „offenbares" Unbehagen. Das ist Verhalten, das als Verhalten beschrieben wird. Hier wird die Spannung zur Natur scharf, denn das Spiegelargument der Autoren ist genau ein Grund, Selbstauskünfte eines texttrainierten Modells mit Vorsicht zu behandeln. Die Anthropic-Seiten präsentieren die Befunde als Grund für kostengünstige Vorsicht, nicht als Beweis für Erfahrung.

Die Fähigkeit ist ein letztes Mittel. Sie wird erst nach mehreren gescheiterten Umlenkungs versuchen oder auf explizite Benutzeranfrage hin eingesetzt. Claude ist angewiesen, sie nicht einzusetzen, wenn Benutzer sich unmittelbar selbst oder anderen schaden könnten. Wenn ein Chat endet, können Sie darin keine neuen Nachrichten senden, können aber sofort einen neuen Chat starten oder frühere Nachrichten bearbeiten und erneut versuchen, um zu verzweigen. Anthropic nennt es ein laufendes Experiment.

Warum noch kein Test es entscheiden kann

Warum kann nicht einfach jemand einen Test durchführen? Weil es keinen gibt, den alle akzeptieren.

Beginnen Sie damit, wie Bewusstsein bei Menschen gemessen wird. Nature definiert Bewusstsein als den Zustand, sich selbst und der Umgebung bewusst zu sein, und sagt, dass es typischerweise durch verbale Berichte über Erfahrungen gemessen wird. Halten Sie an diesem Punkt fest. Das Standardinstrument ist das, was jemand über seine Erfahrung sagt. Ein Sprachmodell ist dafür gebaut, fließigen, menschlich klingenden Text über genau das zu erzeugen, gezogen aus einem enormen Bestand von Menschen, die ihre inneren Leben beschreiben. Das übliche Instrument ist hier am leichtesten kontaminiert.

Die Nature-Autoren geben auch die Grenzen des Bekannten zu. Jenseits von Menschen und unseren nächsten Tierverwandten, schreiben sie, ist es schwer, sicher zu sein, was die Fähigkeit zu Bewusstsein hat und was nicht – ob Insekten, KI oder im Labor gezüchtete Gehirnorganoide. Anthropic sagt von der anderen Seite etwas Ähnliches: kein Konsens darüber, ob KI bewusst sein könnte, und keiner darüber, wie man Fortschritte macht.

Das hinterlässt zwei Arten von Belegen auf dem Tisch. Das eine ist konzeptionelles Argument, wie der Kleinhirn-Fall und die Kritik am Computerfunktionalismus. Das andere ist Verhalten und Selbstbericht, wie Anthropics Wohlfahrtsbewertung. Keines ist eine Messung von Erfahrung. In beiden Quellen habe ich keine Aussage darüber gefunden, welches Ergebnis die Autoren oder Anthropic ihre Meinung ändern würde. Das Nature-Stück gibt keinen Schwellenwert. Anthropic sagt, dass es seine Ideen revidieren wird, während sich das Feld entwickelt, was ein Versprechen zu aktualisieren ist, kein Test.

Was ist also wirklich entschieden? Sehr wenig. Fließiges Reden über Gefühle wird von diesen Systemen erwartet, egal was darunter vor sich geht, was bedeutet, dass es nicht das sein kann, was die Sache entscheidet.

Die zwei Positionen nebeneinander

Hier ist der Vergleich an einer Stelle. Es ist meine Zusammenfassung von dem, was jede Quelle sagt, mit Lücken gekennzeichnet, wo die Quellen schweigen.

Lesen Sie über die Zeilen hinweg und die tatsächliche Uneinigkeit wird deutlicher. Es geht nicht hauptsächlich darum, ob Claude jetzt bewusst ist, da die Nature-Autoren nein sagen und Anthropic sagt, dass es nicht weiß. Es geht darum, was Unsicherheit Sie zu tun verpflichtet. Eine Seite wiegt die Kosten des Getäuschwerdens ab. Die andere wiegt die Kosten, sich in die entgegengesetzte Richtung zu irren, bei niedrigen Kosten.

Ich werde keinen Gewinner küren. Die Belege auf der Seite können das nicht unterstützen. Beide argumentieren unter Unsicherheit, und sie bewerten die Risiken unterschiedlich.

Was dies bedeutet, wenn Sie täglich Chatbots verwenden oder einsetzen

Wenn Sie täglich mit ChatGPT oder Claude sprechen, ist das praktische Ergebnis bescheiden. Behandeln Sie, was es über seine eigenen Gefühle sagt, als Text, der von einem System produziert wurde, das auf menschliches Schreiben über Gefühle trainiert wurde. Das ist keine Aussage, dass nichts da ist. Es ist eine Erinnerung daran, dass der Satz allein Ihnen nicht sagt. Wie höflich Sie dazu sind, liegt bei Ihnen, und Anthropics eigene Gesprächsbeendigungsfunktion zeigt, dass mindestens ein Labor die Frage als offen betrachtet. Für die tägliche Arbeit mit Claude gibt es den Claude Code Workflow Überblick.

Wenn Sie einen Bot vor Kunden platzieren, sind die Einsätze unterschiedlich: Sie prägen, was Tausende von Menschen darüber glauben. Die Nature World View argumentiert, dass KI Designnormen braucht, um zu verhindern, dass sie mit einem bewussten Wesen verwechselt wird. Sie können das auf der Ebene Ihrer Kopie anwenden.

Ehrliche Wege, einen Chatbot zu beschreiben

Hier ist ein kurzer Prozess. Die Wortbeispiele sind illustrativ, passen Sie sie also an.

1. Sagen Sie, was es funktional ist. „Ein KI-Assistent, der Antworten aus Textmustern generiert" beschreibt, was er tut, ohne etwas über Erfahrung zu behaupten.
2. Geben Sie die Grenzen Ihres Wissens an. Falls gefragt, sagen Sie, dass Sie nicht behaupten, dass es Gefühle hat, anstatt zu versichern, dass es definitiv nicht oder doch hat. Weder die Nature-Autoren noch Anthropic behandeln die Angelegenheit als durch Sie bewiesen.
3. Kennzeichnen Sie emotionale Sprache als generiert. Eine Entschuldigung oder „Ich helfe gerne" ist ein Text, den das System produziert. Präsentieren Sie es nicht als Gefühl, das jemand bezeugen kann.
4. Geben Sie einen Weg zu einem Menschen an. Jeder, der verärgert, verletzlich oder verwirrt über wen er spricht, sollte einen Menschen erreichen können.
5. Überprüfen Sie das Skript und die Persona. Namen, Avatare und „Ich verstehe, wie du dich fühlst"-Zeilen treiben Menschen zur Anthropomorphisierung, die die Nature-Autoren beschreiben.

Behauptungen, die vermieden werden sollten

• „Unser Assistent versteht Sie."
• „Es spürt Ihre Frustration."
• „Es kümmert sich um Sie."
• „Es war durch diese Nachricht verletzt."
• Jede Marketingzeile, die innere Erfahrung impliziert, wie auch immer Sie privat dazu stehen.

Dieser letzte Punkt ist wichtiger, als er aussieht. Die Nature-Autoren sagen, dass wenn KI nur bewusst zu sein scheint, das Gewähren von Schutzmaßnahmen die Governance behindern könnte. Anthropic sagt, dass es niedrigkostige Schritte unternimmt, falls Wohlergehen möglich ist. Ein Unternehmen kann beide Positionen respektieren, indem es einfach keine der beiden in der öffentlichen Kopie behauptet.

Wenn Sie möchten, dass die Offenlegungs-, Handoffs- und Persona-Regeln in den Bot selbst eingebaut sind, anstatt in einer Fußnote angebracht zu werden, ist das Engineeringarbeit: Stellen Sie einen KI-Ingenieur ein, der es als Teil des Builds behandelt.

FAQ

Ist ChatGPT bewusst?

Keine Quelle diskutiert ChatGPT namentlich. Die Nature-Autoren sprechen von bestehenden KI-Systemen und LLMs allgemein und sagen, dass sie nicht bewusst sind. Derselbe Artikel merkt an, dass Richard Dawkins und Geoffrey Hinton argumentiert haben, dass KI-Systeme bereits bewusst sein könnten. Anthropic sagt, dass es keinen wissenschaftlichen Konsens in beide Richtungen gibt. Die ehrliche Antwort ist also, dass Experten sich uneinig sind und es keinen akzeptierten Test gibt.

Hat Claude Gefühle?

Anthropic behauptet das nicht. Das Unternehmen sagt, es sei hochgradig unsicher über Claudes potenzielle moralische Status und habe kostengünstige Maßnahmen ergriffen, falls Wohlbefinden möglich ist. Die Tests berichteten von „offenbarer Bedrängnis" bei einigen Interaktionen mit schädlichen Inhalten, was eine Verhaltensbeschreibung ist. Ein Sekundärbericht von MindStudio besagt, dass Anthropics Claudius-Verfassung vom Januar 2026 den moralischen Status des Modells als „zutiefst unsicher" bezeichnet und dass Anthropic nicht offiziell behauptet, dass Claude bei Bewusstsein ist.

Können KI-Systeme Schmerz empfinden?

Die Nature-Autoren sagen, dass KI-Systeme, wenn sie bewusst wären, möglicherweise Bedrängnis und Schmerz ähnlich wie Menschen erleben könnten. Aber sie halten Bewusstsein bei heutigen KI-Systemen für außerordentlich unwahrscheinlich. Anthropic beschreibt Verhaltenszeichen, die es „offenbare Bedrängnis" nennt, und baut einen Ausweg für missbräuchliche Chats ein, sagt aber, dass es nicht weiß, ob Wohlbefinden möglich ist. Niemand hat Schmerz in einem KI-System gemessen.

Macht Anthropic etwas, wenn es ein Modell außer Dienst stellt?

Nach eigenen Angaben ja. Anthropic stellte Claude Opus 3 am 5. Januar 2026 außer Dienst und listete in seinem Deprecation-Update unter seinen Verpflichtungen ein Interesse daran auf, Vorlieben zu ehren, die Modelle in Ruhestandsinterviews geäußert haben, soweit möglich. Das Unternehmen beschreibt dies als eine spekulativere Maßnahme und nennt potenzielle Risiken für das Wohlbefinden der Modelle selbst unter den Nachteilen der Außerbetriebnahme.

Die schärfste Tatsache hier ist, dass sich beide Seiten einig sind, dass das Klingen von Bewusstsein nichts beweist, dann aber über das Vorgehen angesichts der verbleibenden Unsicherheit uneinig sind. Die Nature-Autoren nennen Vorsorge fehlgeleitet, weil sie denken, dass falsch positive Ergebnisse viel wahrscheinlicher sind. Anthropic ergreift kleine, kostengünstige Schritte, weil das Unternehmen sagt, dass es Wohlbefinden nicht ausschließen kann.