Das chinesische Zimmer

[Jörn Budesheim]

Früher wurde das Gedankenexperiment von John Searl in philosophischen Foren gelegentlich diskutiert, heute ist es um dieses Argument relativ ruhig geworden nach meinem Gefühl, warum eigentlich?

[Burkart]

Ich denke, dass sich bei KI derzeit nicht mehr so viel um Searles Problematik Gedanken gemacht wird, also ob KI wirklich verstehen kann oder warum bzw. inwiefern nicht, weil den meisten klar ist, dass Chat GPT & Co und diverse heutige (halt schwache) KI-Systeme es nicht können.

[Jörn Budesheim]

Das Argument von John Searle wendet sich zwar auch gegen die Möglichkeit von KI, aber im Wesentlichen gegen eine bestimmte Theorie des Geistes, nämlich den Funktionalismus.

[Körper]

"Das chinesische Zimmer" hat als Argument mehrere Schwachstellen:

• Eigentlich geht es darum, wie "Bedeutung erreicht" werden kann, aber "Das chinesische Zimmer" liefert hierzu nur eine Suggestion, wie es nicht gehen können soll.
  Die Nicht-XXXX-Strategie ist immer schwach. Besser wäre es, wenn eine Erklärung von "Bedeutung" geleifert und anschliessend exakt geprüft werden würde - das kann "Searl" aber nicht.
• "Das chinesische Zimmer" zieht die ausführende Einheit in den Fokus - Motto: "die CPU versteht nichts von der Gesamtaufgabe". Das ist nicht weiter schlimm, denn "der Mensch ist nicht sein Gehirn", sprich: das Nervensystem ist nicht der handelnde und verstehende Akteur.
• "Das chinesische Zimmer" legt eine bestimmte Art von Reaktion fest, mit der die Antwort-Sequenz generiert wird. Eine Generalisierung ist auf diese Weise nicht möglich. D.h. man kann deshalb nicht sagen, dass ein Reaktionssystem, das "einfache" Zusammenhänge rund um Einwirkungen beachtet und rückwirkt, nicht zu einer Gesamtreaktion führt, die in Bezug auf eine "grössere interaktiv wirkende Einheit" eine fortgesetzte Verstehreaktion darstellt.

[Jörn Budesheim]

• Eigentlich geht es darum, wie "Bedeutung erreicht" werden kann, aber "Das chinesische Zimmer" liefert hierzu nur eine Suggestion, wie es nicht gehen können soll.
  ...

Das ist nicht richtig. Das Ziel von Searles Gedankenexperiment ist nicht, eine Theorie zur Bedeutung zu entwickeln, sondern den Funktionalismus zu kritisieren. Searle zeigt, dass Syntax allein nicht zu Semantik führen kann. Das bedeutet nicht, dass Searle keine eigenen Vorschläge zu bieten hat – die entwickelt er in anderen Kontexten durchaus und ausführlich. Aber dieses Argument hat einen anderen Fokus: Es zielt eben darauf ab, den Funktionalismus in Frage zu stellen.

[Burkart]

Richtig, Syntax ist nicht Semantik. Das widerlegt aber noch nicht Funktionalismus insgesamt (Semantik kann auch funktional sein) oder dass KI nicht verstehen könnte u.ä.

[Körper]

Richtig, Syntax ist nicht Semantik.

Langsam.
"Das chinesische Zimmer" ist sicherlich derart einfach konstruiert, dass man die Beschäftigung mit "Bedeutung" klar dem "Erstellen des Nachschlagewerkes" zuordnen kann und die ausführende Einheit sich somit nicht mehr um diese Arbeit kümmern muss.
Dann ist es trivial, zu sagen "durch diese Syntax-Ausführung wird kein Verständnis (um was es geht) aufgebaut".

Hat man also eine Syntax vor sich, die von vornherein einen hohen Abstraktionsgrad enthält, dann ergibt sich natürlich die Schwierigkeit "wie soll die ausführende Einheit vom Abstrakten zum Konkreten kommen?" (insbesondere, wenn das Konkrete auf Grund der Aufgabenstellung gar nicht benötigt wird).
Nähert man aber die Syntax dem Konkreten an, d.h. die Zusammenhänge innerhalb der Syntax sind die Zusammenhänge der "Bedeutung" (zumindest in einem aktuell benötigten Umfang), gilt dann immer noch "Syntax ist nicht Semantik"?

Zur Beantwortung dieser Frage, muss auf den Tisch gelegt werden "was Bedeutung ist" und "auf welche Weise es um Bedeutung geht".
Genau hier steht Philosophie blank da.

[Burkart]

Richtig, Syntax ist nicht Semantik.

Langsam.
"Das chinesische Zimmer" ist sicherlich derart einfach konstruiert...

Mich brauchst du nicht von Gegenargumenten gegen das chinesische Zimmer zu überzeugen, dann eher Jörn.

[Jörn Budesheim]

Der Beitrag war natürlich eine Einladung, sich gemeinsam das Video anzuschauen und über die Argumentation zu sprechen, wie sie dort entwickelt wird. Solche Elemente am Anfang eines Beitrages sind für mich keine Dekoration.

[Burkart]

Solche Elemente am Anfang eines Beitrages sind für mich keine Dekoration.

?

[Burkart]

Der Beitrag war natürlich eine Einladung, sich gemeinsam das Video anzuschauen und über die Argumentation zu sprechen, wie sie dort entwickelt wird.

Wen's interessiert, viel Spaß.
Wenn man allerdings das chinesche Zmmer für sich als nicht bedeutend genug abgehakt hat, interessen die "inneren Argumente" nicht mehr wirklich.