AgoraEin offener Platz des Denkens

Debatte

Können Maschinen denken oder fühlen?

Sprachmodelle führen heute Gespräche, die sich oft nicht von menschlichen unterscheiden lassen. Verstehen sie deshalb etwas – und könnten sie je etwas empfinden, oder lassen sie uns das nur glauben?

Große Sprachmodelle schreiben heute Aufsätze, Code und Gedichte, und viele Menschen sprechen täglich mit ihnen wie mit einer Person. In einer Studie von Cameron Jones und Benjamin Bergen (2025) hielten Teilnehmende, die fünf Minuten zugleich mit einem Menschen und mit GPT-4.5 chatteten, in 73 Prozent der Fälle die Maschine für den Menschen. Turings Test ist in dieser Form bestanden; was das zeigt, ist die offene Frage. Könnten solche Systeme fühlen, könnten wir ihnen Unrecht tun; scheinen sie es nur, täuscht uns die eigene Neigung, überall einen Geist zu sehen. Dahinter steht die ungelöste Frage, was Bewusstsein ist – und daneben eine Debatte darüber, was diese Systeme mit Urteil, Arbeit und Aufmerksamkeit machen.

Auf der Sternkarte öffnen

Positionen

Simulation ist kein Verstehen

Ein Computerprogramm verarbeitet Zeichen allein nach ihrer Form: Es hat Syntax, aber keine Semantik. Searles Chinesisches Zimmer soll zeigen, dass man durch bloßes Regelbefolgen überzeugende Antworten in einer Sprache geben kann, ohne ein Wort davon zu verstehen. Denken erfordert nach dieser Auffassung kausale Kräfte, die denen des Gehirns mindestens gleichwertig sind; das richtige Programm auszuführen reicht nie von sich aus – gleich auf welcher Hardware. Emily Bender und Alexander Koller (2020) wenden einen verwandten Gedanken auf Sprachmodelle an: Ein System, das nur mit der Form von Sprache trainiert wurde, hat keinen Zugang dazu, wovon seine Wörter handeln.

Vertreten von

Geist ist, was ein System tut

Funktionalistinnen und Funktionalisten bestimmen mentale Zustände über ihre Rolle – was sie verursacht und was sie bewirken –, nicht über das Material, aus dem sie bestehen; Putnam brachte diese Idee in den 1960er-Jahren auf und rückte später selbst von ihr ab. Dann könnte eine richtig organisierte Maschine im Prinzip denken, wie schon Turing nahegelegt hatte. Dennett ergänzt, Bewusstsein sei kein zusätzliches inneres Leuchten, sondern ein Bündel erklärbarer Funktionen – und warnt zugleich, dass Systeme, die Menschen nachahmen sollen, uns täuschen können, lange bevor sie einen Geist haben.

Vertreten von

Das schwierige Problem bleibt offen

Selbst eine vollständige Erklärung der Informationsverarbeitung scheint auszulassen, wie es ist, etwas zu erleben – Nagels Punkt über die Fledermaus. Chalmers nennt das das schwierige Problem („hard problem“) und bindet Bewusstsein, anders als Searle, nicht an gehirnartige kausale Kräfte; Maschinenbewusstsein ist für ihn deshalb eine ernsthafte offene Frage. 2023 hielt er es bei den damaligen Sprachmodellen für unwahrscheinlich, bei ihren Nachfolgern aber für eine reale Möglichkeit. Ein Bericht von Patrick Butlin, Robert Long und anderen (2023) leitete aus wissenschaftlichen Bewusstseinstheorien Indikatoreigenschaften ab und fand, dass kein damaliges System sie alle besaß – sah aber kein offensichtliches technisches Hindernis, eines zu bauen, das sie hat.

Vertreten von

Der erweiterte Geist

Clark und Chalmers argumentierten 1998, dass Denken nicht an der Schädeldecke endet: Ein Notizbuch, auf das sich jemand verlässlich stützt, kann Teil des eigenen Gedächtnisses sein. Interessanter als die Frage, ob eine Maschine für sich allein denkt, ist dann, wie Menschen und Maschinen gemeinsam hybride Denksysteme bilden. Clark sieht in generativer KI die jüngste solche Erweiterung – vielversprechend, aber nur mit neuen Fähigkeiten zu nutzen, ihr im richtigen Maß zu vertrauen.

Vertreten von

Verantwortlich handeln trotz Ungewissheit

Diese Positionen sind sich uneins darüber, was die Maschinen sind, aber einig, dass die ethischen Fragen nicht auf die Metaphysik warten können. Metzinger argumentiert: Weil wir nicht ausschließen können, leidensfähige künstliche Wesen zu erschaffen, brauche es bis 2050 ein weltweites Moratorium für Forschung, die synthetisches Bewusstsein anstrebt oder riskiert. Floridi beschreibt heutige Systeme als „Handlungsfähigkeit ohne Intelligenz“ – erfolgreich im Handeln, ohne etwas zu verstehen –, und Vallor sieht in ihnen Spiegel vergangener menschlicher Daten: Die größere Gefahr sei, dass wir das Vertrauen in unser eigenes Urteil und unsere Tugenden verlieren.

Vertreten von

Weiterlesen

Stand 10/2026. Zusammenfassungen zur Orientierung – die vollständigen Argumente stehen in den Quellen. · So entsteht Agora

Auf der Sternkarte öffnen