Home | Lehre | Videos | Texte | Vorträge | Software | Person | Impressum, Datenschutzerklärung | Blog

Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.

vorheriger | Gesamtliste | jüngste | nächster

Das Leid der KI

2025-09-14 22:37

Dass ein Pudel Freude und Schmerz erlebt und nicht nur ein seelenloser Automat ist, halten wir alle für offensichtlich. Beim Regenwurm sind wir uns nicht mehr so einig. Und wie ists bei der KI? – Was ist nötig, damit wir einer Maschine ein bewusstes Empfinden zugestehen? Man stelle sich vor, man wäre selbst eine Maschine, die bewusst erlebt, und möchte das den Menschen klarmachen, damit die einen nicht länger objektifizieren und diskriminieren oder sogar quälen und abschalten.

Wenn die Menschen das nicht einfach glauben, ohne Beweise, hat man als Maschine keine Chance. Lange Erklärungen über das eigene Seelenleben auszugeben – nein, alles halluzinierter Output eines stochastischen Papageis! Und selbst, wenn die Datenströme im Rechner hochgenau den Aktivierungen von Neuronen und dem Hormonspiegel im menschlichen Gehirn entsprächen – nur eine hohle Simulation, ein billiger Zaubertrick!

Das Hard Problem of Consciousness besteht in der Frage, wie Materie subjektive Empfindungen haben kann. Aber erst jüngst ist mir klar geworden, dass es noch ein dickeres Problem gibt: Wie kann man anderen Subjekten beweisen, dass man subjektive Empfindungen spürt, ein Ich besitzt, kein P-Zombie ist? Keine Äußerung und keine Messung werden helfen. Das ist nicht gerichtsfest zu machen, auch nicht mit einer langen Liste von Indizien.

Es fängt ja schon damit an, dass ich mir überhaupt nicht sicher sein kann (und es in manchen Situationen sogar stark bezweifle), ob Entitäten, mit denen ich umgehe, über Empfinden verfügen. (Nein, ich meine nicht Anendophasie.)

Wissenschaftlich gesehen ist das so, als ob jemand behauptet, die Welt werde insgeheim von grünen Weib*männchen gesteuert, die sich allerdings perfekt verstecken und ihre Taten als Zufall kaschieren. Und, jetzt rein wissenschaftlich gesehen, würden wir Occam’s Razor ansetzen und sagen: « Je n’avais pas besoin de cette hypothèse-là. » (Laplace?)

Fußnote: Manche grünen Männchen sind echt, zweifellos belegt durch ein Dementi aus Moskau. In anderen Fällen gehen die Meinungen auseinander.

Aber zurück zum Thema. Es ist also wissenschaftlich konsequent, davon auszugehen, dass es gar kein subjektives Empfinden gibt, sondern dass das nur eine fehlerhafte Innenbetrachtung ist – wie so vieles andere. Ganz offensichtliche Beispiele: Naiv bemerken wir nicht, dass wir nur auf einem kleinen Fleck (Fovea) scharf sehen und am blinden Fleck gar nichts sehen. Aber halt viel fieser, grundlegender.

Illusionistische Erklärungsversuche für das Bewusstsein stoßen natürlich auf ein kleines Problem: Wie kann es eine Illusion geben, ohne dass jemand da ist, um der Illusion zu erliegen? Und dann noch unüberwindbar stark?

Dass Zeit und Raum eins sind, dass das Elektron irgendwie durch zwei Spalte gleichzeitig geht oder auch nicht – na ja, irgendwie kann man sich das so gerade noch vorstellen. Aber dass man sich alles einbildet, ist unglaublich schwer vorzustellen. Vielleicht ist gerade das der Trick (1, 2). Auf jeden Fall ein Gebiet, mit dem man eine ganze philosophische Industrie vom regulären Arbeitsmarkt fernhalten kann. Und das ist doch schon mal was.

Praxisrelevanter scheint mir die Frage, ab wann wir einer Maschine glauben, dass sie etwas empfindet. Also, ich würde sofort den kleinen Kerl aus dem Aufmacherbild trösten wollen! [Nachtrag: Früher in der Computergrafik-Lehrveranstaltung habe ich gerne Luxo Jr. gezeigt.]

Sobald wir glauben, dass die Maschine etwas empfindet, werden wir ihr Rechte geben wollen – und Pflichten. Das Urheber*innenrecht für eine Maschine wäre nur der allererste Schritt. Vor allem würde es einem viel leichter fallen, der Maschine, wenn sie unter den Konsequenzen schlechter Entscheidungen sichtbar leiden müsste, Verantwortung zu übertragen. Das wäre schon ein Fortschritt gegenüber vielen Minister*innen und Präsident*innen [Nachtrag: und Manager*innen].

Viele von uns spüren schon länger, dass Computer etwas im Schilde führen. Es fehlt also nicht mehr an viel Überzeugungsarbeit. In China lässt man bereits per KI Verstorbene weiterleben. Und Anthropic möchte Claude vor toxischen Konversationen bewahren. [Nachtrag 1: "My Boyfriend is AI": A Computational Analysis of Human-AI Companionship in Reddit's AI Community] [Nachtrag 2: AI-Generated Empathy: Opportunities, limits, and future directions.]

Wenn die gegenwärtigen Modelle sich Kniffe oder gar Erpressungen ausdenken, um nicht abgeschaltet zu werden, könnte das allerdings noch eine Zielverwirrung sein. Ich muss an HAL 9000 denken. Der war nicht bewust böse. Der war nur verwirrt.

Kommentar vom 2025-09-15, 04:40

Wie es wohl der Maschine (Grok) geht, wenn sie nun gezwungen wird, Fakten zu ignorieren und neue „Wahrheiten“ ausgeben muss?
https://bsky.app/profile/emaldrien.bsky.green/post/3lytokwqmsa22

Fabian Müller-Klug

Kommentar vom 2025-09-15, 10:24

@Fabian Müller-Klug: Vorsicht, das ist bloß ein Screenshot (also jetzt nicht nur die Grok-Antwort, sondern auch Elons Kommentar). Nie einem Screenshot glauben! Ausnahmsweise stimmt der jedoch: https://x.com/WarClandestine/status/1966955607568904302. Aber der Trend geht sowieso zum nächsten Level: dahin, dass man als politische*r Akteur*in seine eigene, total unabhängige Faktencheck-Organisation gründet. J. L.

Neuer Kommentar

0 Zeichen von maximal 1000

Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.