Künstliche Intelligenz

[NaWennDuMeinst]

Das Gedankenexperiment kurz zusammengefasst: Syntax ist keine Semantik. Egal, was hier in diesem Faden versucht wird, du scheinst nicht mal zu verstehen, was damit gemeint ist.

Doch, doch. Er versteht das schon. Und er weiß auch, dass die Maschine das nicht kann. Seine Antwortstrategie darauf ist dann immer die Gleiche.
Was die Maschine nicht kann, ist auch nicht nötig, wird einfach ignoriert. Das was Maschinen nicht können, soll dann einfach nicht mehr Teil des Intelligenzbegriffes sein.
So kann man das natürlich auch lösen.

Aufgabe: Schaffen sie einen intelligenten Stein.
Lösung: Intelligenz ist "in der Gegend rumliegen".
Fertig.

"Genial".

[NaWennDuMeinst]

Wenn deine Maschine dann sich aber wirklich den Aufgaben entsprechend justiert, noch die richtigen Nägel anhand bestimmter Kriterien auswählen soll (z.B. Wand-Beschaffenheit), hat sie schon einen speziellen Punkt von eingeschränkter Intelligenz erreicht.

Man, das hatten wir doch alles schon.
Eine Lichtschranke am Parkplatz macht das auch. Sie hat einen Sensor der bei Unterbrechung einen Strom erzeugt, der dann irgendwie genutzt wird.
Aktionen werden dann entsprechend ausgelöst oder auch nicht.
Das sind logische Schaltungen.
Kein Mensch würde jetzt aber sagen die Parkplatzschranke ist intelligent oder "versteht" irgendwas.
Und nur weil der Computer anstatt Zwei nun Milliarden logische Schaltungen und anstatt Kabel Leiterbahnen hat ist er deshalb nicht was Grundsätzlich anderes.

Wo fängt bei dir denn Verstehen an?

Nicht "wo fängt es an", sondern was ist dafür nötig.
Dazu hat Jörn schon vieles gesagt. Und ich auch. Immer und immer wieder.
Aber es interessiert dich einfach nicht.
Du willst einfach alle Begriffe soweit reduzieren, dass auch Steine und Metallhaufen Intelligent sind und verstehen.
Ok, mach das. Aber das ist unsinniger Quatsch. Tut mir leid.

[Burkart]

Wie gesagt. Eine Bretterbude ist keine Villa und dummes Abrattern von Programmen ist keine Intelligenz.
Wenn Unvorhergesehenes eintritt wird der Mensch erfinderisch, er kann sich auf die neue Situation einstellen und die Strategie ändern.
Die Maschine fängt an den Stellen an Unsinn zu produzieren. Sie kann immer nur so reagieren wie ihre Programme das vorsehen.

Für einfach Programme gebe ich dir vollkommen Recht.
Genau das habe ich um 10:45 Uhr beim chinesischen Zimmer versucht zu erklären.

Was ihr fehlt ist ein "Flexibilitätsprogram".

Gut, kann man so nennen.

Echte Flexibilität kann man aber nicht programmieren (weil "Programm" das Gegenteil davon ist).

(Starke) KI soll aber gerade Flexibilität bereitstellen. Programm ist nur dann ein Gegenteil, wenn du Flexibilität (z.B. Lernfähigkeit) nicht programmierst.

Intelligenz entsteht nicht aus Programmen.

Ok, gehen wir davon mal aus, dass menschliche Intellgenz für die Programme notwendig sind. (Später könnte auch mal KI Programme schreiben, aber möge das hier keine Rolle spielen.)

Sondern Programme werden intelligent durch Intelligenz.

Na, da hast du dir begrifflich aber gerade selbst widersprochen: Wenn Programme intelligent werden (durch Intellgenz), sind sie es ja dann. Oder!?

Das was durch Programmierung erzeugt werden soll ist eigentlich Vorrausetzung, muss bereits gegeben sein.

Nicht alles, z.B. bei Lernfähigkeit: Die Lerneinheiten kommen erst nach der Programmierung.

[Jörn Budesheim]

Sondern Programme werden intelligent durch Intelligenz.

John Searle spricht von geliehener intentionalität im Unterschied zur wirklichen, intrinsischen intentionalität. Und in diesem Sinne ist hier gemeint, die geliehene Intelligenz im Unterschied zur intrinsischen Intelligenz. Unsere eigene Intelligenz scheint in der geliehenen Intelligenz der Programme auf.

[Burkart]

Das Gedankenexperiment kurz zusammengefasst: Syntax ist keine Semantik. Egal, was hier in diesem Faden versucht wird, du scheinst nicht mal zu verstehen, was damit gemeint ist.

Doch, doch. Er versteht das schon. Und er weiß auch, dass die Maschine das nicht kann.

Falsch, man kann ihr Verstehen und damit Bedeutung/Semantik beibringen.

Seine Antwortstrategie darauf ist dann immer die Gleiche.

Auch falsch...

Was die Maschine nicht kann, ist auch nicht nötig, wird einfach ignoriert.

...weil du nicht differenziert. (Biologische) Gefühle wegzulassen heißt nicht alles wegzulassen, was dumme Maschinen bisher nicht können.

Das was Maschinen nicht können, soll dann einfach nicht mehr Teil des Intelligenzbegriffes sein.
So kann man das natürlich auch lösen.

Aufgabe: Schaffen sie einen intelligenten Stein.
Lösung: Intelligenz ist "in der Gegend rumliegen".
Fertig.

"Genial".

Umgekehrt: Du sagt einfach, eine Maschine kann nicht intelligent sein, weil sie nicht biologisch ist. Mal wieder dein Schwarz-Weiß-Denken.
Dass intelligente Aktionen (z.B. Lösen einer Aufgabe beim Intelligenztest) eine gewisse Intelligenz erfordern, die von einer KI auch erbracht werden könnte, ignorierst du einfach.

[NaWennDuMeinst]

Wenn Programme intelligent werden (durch Intellgenz), sind sie es ja dann. Oder!?

An Programmen die wir schaffen ist genau eines intelligent: Der Programmierer.
Das ist ja aber nicht das, was Du mit deiner Starken KI meinst. Du willst ja Intelligenz durch Programme erzeugen.
Aber so funkioniert das eben nicht.
Nehmen wir mal an, wir Menschen würden auch nur Programme abrattern (Das behaupten ja die Materialisten. Wir sind auch nur Programmabratterer wie Maschinen).
Die Intelligenz die wir dabei nutzen ist aber nicht durch die Programme erzeugt, sondern sie ist Voraussetzung dafür, dass wir die (unsere) Programme intelligent nutzen.
Ich glaube es ist halt einfach ein grundsätzlich Fehler anzunehmen, dass Intelligenz durch Programme entstehen kann (Intelligenz ist keine isolierbare Funktion).
Sie muss schon vorhanden sein, damit Programme intelligent sein können.
Unsere "Hardware" (wenn du so willst), also die biologische Grundlage aus der wir aufgebaut sind liefert den Teil der nötig ist.
Das Ganze funktioniert nur in Kombination.
Das ist das was Jörn meint (und ich auch) wenn er sagt man kann Intelligenz nicht einfach auf jede beliebige Plattform übertragen. Sie ist keine isolierbare Funktion.
Sie entsteht in der Kombination von Körper und Geist.

[Burkart]

Wenn deine Maschine dann sich aber wirklich den Aufgaben entsprechend justiert, noch die richtigen Nägel anhand bestimmter Kriterien auswählen soll (z.B. Wand-Beschaffenheit), hat sie schon einen speziellen Punkt von eingeschränkter Intelligenz erreicht.

Man, das hatten wir doch alles schon.
Eine Lichtschranke am Parkplatz macht das auch. Sie hat einen Sensor der bei Unterbrechung einen Strom erzeugt, der dann irgendwie genutzt wird.
Aktionen werden dann entsprechend ausgelöst oder auch nicht.
Das sind logische Schaltungen.
Kein Mensch würde jetzt aber sagen die Parkplatzschranke ist intelligent oder "versteht" irgendwas.
Und nur weil der Computer anstatt Zwei nun Milliarden logische Schaltungen und anstatt Kabel Leiterbahnen hat ist er deshalb nicht was Grundsätzlich anderes.

Ok, dann ersetze "eingeschränkte Intelligenz" durch "Aspekte von Intelligenz". Ich sage ja nicht, dass deine Hammermaschine eine KI ist, nur dass sie Datenverarbeitung kann im Gegensatz zu deinem nackten Hammer.

Wo fängt bei dir denn Verstehen an?

Nicht "wo fängt es an", sondern was ist dafür nötig.
Dazu hat Jörn schon vieles gesagt. Und ich auch. Immer und immer wieder.

Ach, hat er das, außer dass Biologie dafür nötig ist bzw. es darauf letztlich immer reduziert!?
Kann du mir dann etwas nennen, was nötig ist für Verstehen, was nicht mit Biologie oder gar Mensch zu tun hat?

Aber es interessiert dich einfach nicht.
Du willst einfach alle Begriffe soweit reduzieren, dass auch Steine und Metallhaufen Intelligent sind und verstehen.

Blödsinn, aber das solltest du selbst wissen; du neigst halt gerne zu Übertreibungen.

[NaWennDuMeinst]

Dass intelligente Aktionen (z.B. Lösen einer Aufgabe beim Intelligenztest) eine gewisse Intelligenz erfordern, die von einer KI auch erbracht werden könnte, ignorierst du einfach.

Natürlich erfordern bestimmte Aktionen Intelligenz. Niemand streitet das ab und das ignoriert auch keiner.
Was abgestritten wird ist, dass die Maschine Aufgaben haben kann. Menschen haben Aufgaben. Und sie lösen sie Mithilfe von Maschinen indem sie sie genau so konstruieren, dass sie tun was der Aufgabe entspricht.

[Jörn Budesheim]

Aber es interessiert dich einfach nicht.
Du willst einfach alle Begriffe soweit reduzieren, dass auch Steine und Metallhaufen Intelligent sind und verstehen.

Ein lustiges Beispiel dazu aus der Literatur: Wasser ist intelligent, denn es geht immer den Weg des geringsten Widerstandes.

[NaWennDuMeinst]

Ok, dann ersetze "eingeschränkte Intelligenz" durch "Aspekte von Intelligenz". Ich sage ja nicht, dass deine Hammermaschine eine KI ist, nur dass sie Datenverarbeitung kann im Gegensatz zu deinem nackten Hammer.

Ja, aber Datenverarbeitung macht aus einem Hammer noch lange keinen intelligenten Hammer. Es macht aus ihm ein Werkzeug das Daten verarbeiten kann.

Ein Werkzeug ist ein nicht zum Körper eines lebenden oder künstlichen Organismus gehörendes Objekt, mit dessen Hilfe die Funktionen des Körpers erweitert werden, um auf diese Weise ein unmittelbares Ziel zu erreichen.

Genau das sind Computer. Werkzeuge. Und nur weil Computer gebaut werden um Daten zu verarbeiten wird aus ihnen nicht plötzlich etwas anderes als ein Werkzeug.
Die Eigenschaft "verarbeitet Daten" macht aus einem Werkzeug kein denkendes, intelligentes Ding oder was anderes als ein Werkzeug.
Es gibt Werkzeuge um Löcher zu machen. Es gibt Werkzeuge um zu Hobeln. Und es gibt eben Werkzeuge um Daten zu verarbeiten.

Das Entscheidende ist "um ein Ziel zu erreichen". Computer wollen keine Ziele erreichen. Sie wollen überhaupt nichts, denn sie haben keinen Willen.
Wir wollen was erreichen. Wir haben Ziele. Deshalb bauen wir Computer damit sie als unsere Werkzeuge dienen um unsere Ziele zu erreichen.

[NaWennDuMeinst]

Aber es interessiert dich einfach nicht.
Du willst einfach alle Begriffe soweit reduzieren, dass auch Steine und Metallhaufen Intelligent sind und verstehen.

Ein lustiges Beispiel dazu aus der Literatur: Wasser ist intelligent, denn es geht immer den Weg des geringsten Widerstandes.

Ja, so kann man "Problemlösung" natürlich auch verstehen. Das Wasser hat das "Problem" des Widerstands und "löst" das Problem indem es stets den geringsten "wählt".


Manchmal bin ich so müde.

[Burkart]

Erst einmal danke für die Sachlichkeit deines Beitrages.

Wenn Programme intelligent werden (durch Intellgenz), sind sie es ja dann. Oder!?

An Programmen die wir schaffen ist genau eines intelligent: Der Programmierer.

Du wirst mir doch zustimmen, dass Programmierer und Programm zwei unterschiedliche Dinge sind.
Und dass es ganz dumme Programme gibt und solche, die mehr als diese können.

Das ist ja aber nicht das, was Du mit deiner Starken KI meinst. Du willst ja Intelligenz durch Programme erzeugen.
Aber so funkioniert das eben nicht.

Ich möchte/Man kann keine menschliche Intelligenz 1:1 erzeugen, insofern ist das richtig.
Mir scheint, du möchtest einfach den Begriff der Intelligenz vermeiden. Ist es auch so mit "Lernen"? Was ist mit "Verarbeiten"? Usw.
Dürfen all die Begriffe einfach nicht auf KI angewendet werden, weil es dir (und Jörn) nicht gefällt?

Nehmen wir mal an, wir Menschen würden auch nur Programme abrattern (Das behaupten ja die Materialisten. Wir sind auch nur Programmabratterer wie Maschinen).
Die Intelligenz die wir dabei nutzen ist aber nicht durch die Programme erzeugt, sondern sie ist Voraussetzung dafür, dass wir die (unsere) Programme intelligent nutzen.

Unsere Intelligenz ist nicht Programme erzeugt, sondern langfristig durch die Evolution entstanden, z.B. immer mehr durch Anpassungen und Optimierung hinsichtlich für uns besseren Verhaltens. Individuell haben wir unsere DNA u.ä., die aus einem Samen+Ei einen Menschen macht.

Ich glaube es ist halt einfach ein grundsätzlich Fehler anzunehmen, dass Intelligenz durch Programme entstehen kann (Intelligenz ist keine isolierbare Funktion).

Dass Intelligenz nicht einfach definierbar und damit "isolierbar" ist, einverstanden. Das erwartet wohl auch niemand.
Dass Programme sehr unterschiedlich komplex sind, ist sicherlich auch klar.
Was ist damit, dass wir Programmen notwendige Aspekte von Intelligenz wie Lernen einprogrogrammieren können?

Sie muss schon vorhanden sein, damit Programme intelligent sein können.

Die Frage ist doch, ob unsere Intelligenz nicht so auf Programme "abfärben" kann, diese also halt so "künstlich intelligent" werden.

Unsere "Hardware" (wenn du so willst), also die biologische Grundlage aus der wir aufgebaut sind liefert den Teil der nötig ist.
Das Ganze funktioniert nur in Kombination.

Wenn du Biologie axiomatisch voraussetzt, verstellt du dir halt den Blick auf die Möglichkeiten, die KI bieten kann.

Das ist das was Jörn meint (und ich auch) wenn er sagt man kann Intelligenz nicht einfach auf jede beliebige Plattform übertragen. Sie ist keine isolierbare Funktion.
Sie entsteht in der Kombination von Körper und Geist.

Womit wir also beim Dualismus Körper-Geist wären, den ich weiter oben schon mit Begründung abgelehnt habe (ich weiß, entgegen der Meinung vieler Menschen bisher).

[Burkart]

Dass intelligente Aktionen (z.B. Lösen einer Aufgabe beim Intelligenztest) eine gewisse Intelligenz erfordern, die von einer KI auch erbracht werden könnte, ignorierst du einfach.

Natürlich erfordern bestimmte Aktionen Intelligenz. Niemand streitet das ab und das ignoriert auch keiner.
Was abgestritten wird ist, dass die Maschine Aufgaben haben kann. Menschen haben Aufgaben. Und sie lösen sie Mithilfe von Maschinen indem sie sie genau so konstruieren, dass sie tun was der Aufgabe entspricht.

Intelligenz und Aufgaben zu haben ist zweierlei, also schauen wir einzeln.

Wenn du akzeptierst, dass Intelligenz-Test-Aufgaben Intelligenz erfordern, andererseits KI aber einige solcher Aufgaben lösen kann, muss die KI doch auch Intelligenz haben!?

Zur Aufgabe:
Ist es ok für dich, wenn man Aufgaben in (eine Haupt und) Unteraufgaben unterteilt?
Wenn eine KI eine Aufgabe zugeordnet/"befohlen" bekommt (durch Kommunikation/Befehl, gerne am Ende mit Enter-Taste ), darf die KI die Aufgabe dann in Unteraktionen (Unteraufgaben) zerlegen? Wenn ja, hat die KI dann nicht die aktuelle Unteraufgabe nicht als eigene zu erledigende "erkannt"/ermittelt? Wohlgemerkt: Nicht den Unteraufgaben-Typ, der mag gerne programmiert sein, sonden die aktuelle Unteraufgabe.

[Burkart]

Sondern Programme werden intelligent durch Intelligenz.

John Searle spricht von geliehener intentionalität im Unterschied zur wirklichen, intrinsischen intentionalität. Und in diesem Sinne ist hier gemeint, die geliehene Intelligenz im Unterschied zur intrinsischen Intelligenz. Unsere eigene Intelligenz scheint in der geliehenen Intelligenz der Programme auf.

Das ist eine nette rhetorische Idee von Searle zur Unterstützung seiner Position. Kann man Intelligenz aber verleihen?

Das erinnert mich an die Diskussion, ob Intelligenz und anderes nur simuliert ist bzw. werden kann.
Ich meinte dazu ungefähr:
Ist es eine Simulation einer Rechenoption, wenn ein Rechner aus 2+2 das Ergebnis der 4 ermittelt - oder ist es nicht die Rechnung selbst, halt weil sie das Ergebnis erbringt? Ich meine ja.
Entsprechend sehe ich nicht, dass Intelligenz verliehen werden kann.

[Burkart]

Ok, dann ersetze "eingeschränkte Intelligenz" durch "Aspekte von Intelligenz". Ich sage ja nicht, dass deine Hammermaschine eine KI ist, nur dass sie Datenverarbeitung kann im Gegensatz zu deinem nackten Hammer.

Ja, aber Datenverarbeitung macht aus einem Hammer noch lange keinen intelligenten Hammer. Es macht aus ihm ein Werkzeug das Daten verarbeiten kann.

Dann scheinen wir uns darauf einigen zu können, dass deine Hammermaschine noch keine (echte) KI ist, schon aber einen Aspekt von Intelligenz beinhaltet, ok?

Ein Werkzeug ist ein nicht zum Körper eines lebenden oder künstlichen Organismus gehörendes Objekt, mit dessen Hilfe die Funktionen des Körpers erweitert werden, um auf diese Weise ein unmittelbares Ziel zu erreichen.

Genau das sind Computer. Werkzeuge. Und nur weil Computer gebaut werden um Daten zu verarbeiten wird aus ihnen nicht plötzlich etwas anderes als ein Werkzeug.
Die Eigenschaft "verarbeitet Daten" macht aus einem Werkzeug kein denkendes, intelligentes Ding oder was anderes als ein Werkzeug.
Es gibt Werkzeuge um Löcher zu machen. Es gibt Werkzeuge um zu Hobeln. Und es gibt eben Werkzeuge um Daten zu verarbeiten.

Hm, ein "Werkzeug" muss nicht zwingend nur ein unbelebtes Ding sein. Ein auf Rauschmittel abgerichteter Hund ist auch irgendwie ein Werkzeug, trotzdem ein Lebewesen mit gewisser Intelligenz.
Dass eine KI unser Werkzeug (oder auch "Diener") sein soll, da stimmen wir ja überein.

Das Entscheidende ist "um ein Ziel zu erreichen". Computer wollen keine Ziele erreichen. Sie wollen überhaupt nichts, denn sie haben keinen Willen.
Wir wollen was erreichen. Wir haben Ziele. Deshalb bauen wir Computer damit sie als unsere Werkzeuge dienen um unsere Ziele zu erreichen.

Das sind zwei unterschiedliche Aspekte: Ziel-Erreichung und Wille.
Computer/KI/Roboter können vorgegebene Ziele erreichen, z.B. von A nach B zu navigieren.
Beim Willen ist die Frage, ob ein Ziel wie "Agiere immer für den Menschen" (wie immer das genau geht) nicht so eine Art Wille-Ersatz ist.

[Burkart]

Aber es interessiert dich einfach nicht.
Du willst einfach alle Begriffe soweit reduzieren, dass auch Steine und Metallhaufen Intelligent sind und verstehen.

Ein lustiges Beispiel dazu aus der Literatur: Wasser ist intelligent, denn es geht immer den Weg des geringsten Widerstandes.

Ja, so kann man "Problemlösung" natürlich auch verstehen. Das Wasser hat das "Problem" des Widerstands und "löst" das Problem indem es stets den geringsten "wählt".

Tja, so man metaphorisch etwas wie Problemlösung naturlich auch anders angehen
Nur schade, dass das Wasser nichts von seinem Problem weiß

[Jörn Budesheim]

Eine Straßenbahn übt eine gewisse Funktion aus, sie bringt Fahrgäste von a über b und c nach z. Nun kann man diese Straßenbahn auf verschiedene Arten und Weisen realisieren, aber eben nicht auf jede. Man wird wohl kaum eine Straßenbahn aus Kochkäse bauen können. Mit anderen Worten Straßenbahn haben eine Funktion, die sie jedoch nicht substratunabhängig ausüben können.

Wenn man in der KI nicht nach dem Leib fragt, sondern nur auf Programme und Strukturen blickt, dann ist man ein extremer naiver Idealist. (Man ist also gerade kein Materialist, selbst wenn man es immer zu behauptet.) Man hat dann die allgemeinen Strukturen im Blick und glaubt (in aller Regel sogar ohne jede Begründung) die materiellen Aspekte der Thematik ignorieren zu können. Man verhält sich also wie jemand, der glaubt, Straßenbahn könne man aus jedem Material bauen, also auch aus Kochkäse.

[NaWennDuMeinst]

Nur schade, dass das Wasser nichts von seinem Problem weiß

Ich würde ja sagen, jetzt hast Du es verstanden. Aber ich befürchte Du wirst gleich wieder - wenn es um Maschinen geht - das Gegenteil behaupten.

[Burkart]

Eine Straßenbahn übt eine gewisse Funktion aus, sie bringt Fahrgäste von a über b und c nach z.

Tut es ein auf Rauschmittel abgerichteter Hund nicht auch? Trotzdem ist er intelligentes Lebenwesen.

Nun kann man diese Straßenbahn auf verschiedene Arten und Weisen realisieren, aber eben nicht auf jede. Man wird wohl kaum eine Straßenbahn aus Kochkäse bauen können. Mit anderen Worten Straßenbahn haben eine Funktion, die sie jedoch nicht substratunabhängig ausüben können.

Kein Sorge, ich habe ich nicht vor, KI aus Kochkäse aufzubauen
Immerhin habe ich mal eine kleine CPU gesehen, die aus einer Murmelbahn bestand.

Wenn man in der KI nicht nach dem Leib fragt, sondern nur auf Programme und Strukturen blickt, dann ist man ein extremer naiver Idealist. (Man ist also gerade kein Materialist, selbst wenn man es immer zu behauptet.) Man hat dann die allgemeinen Strukturen im Blick und glaubt (in aller Regel sogar ohne jede Begründung) die materiellen Aspekte der Thematik ignorieren zu können.

Das ist halt eine Frage der Definition von KI. Interessant ist wirklich, dass das Thema in deinem Video keine Rolle spielt. Ich denke ja auch, dass ein (echter oder erst einmal simulierter) Körper auch ein wichtiger Aspekt darstellt, alleine um menschlicher Intelligenz besser näher zu kommen, weil wir Menschen ja auch in der Welt leben und entsprechende "Probleme" u.ä. haben.

[Lucian Wing]

Ich möchte auch Mal wieder einen kleinen Beitrag einwerfen.
Wenn man eine sehr starke materialistische Ausrichtung hat, dann liegt es tatsächlich nah, dass man alles was den Menschen ausmacht auch tatsächlich replizieren könnte (ist nicht möglich ich weiß). Sprich, solange man nicht das Leib-Seele Problem gelöst hat (ist noch nicht gelöst oder?), kann man bei der Diskussion niemandem vorwerfen er habe zu kurz gedacht. Durch die Neurowissenschaft bekommen Materialisten doch noch mehr Wind in die Segel. Die Gegenseite finde ich gerade schwieriger zu formulieren.
Ich meine, wenn mir jemand ein Stäbchen ins Hirn steckt und damit Gefühle simulieren kann, dann gibt dass einem doch zu denken.

Das Leib-Seele-Problem (oder vielleicht besser Körper-Geist!?) gilt offensichtlich nicht als gelöst, wobei ich mich frage, warum nicht.
Meiner Ansicht nach ist der Geist nichts mystisch dualistisch Eigenes, sondern nur ein hochkomplexes Phänomen, dass auf dem Körper insbesondere seinem neuronal-vernetzten Gehirn, Nerven usw. aufbaut. Man kann den Geist nur nicht einfach erklären, weil sehr viele (Denk-)Ebenen zwischen dem Körper und ihm liegen.
Ähnlich hatten wir früher Gott, der sich in Donnerwettern u.ä. zeigte, bis die Naturwissenschaft diese Phänomene erklärt hat.

Das ist nicht vergleichbar. Keine Wissenschaft wird jemals erklären, wie dir Erdbeereis schmeckt. Eine vollständige Beschreibung der biochemischen und physikalischen Vorgänge etwa durch komplette Vorgangsaufzeichnung erklärt nichts darüber. Die Erste-Person-Perspektive ist nicht zu knacken. Die Freude, dass heute ein schöner Tag ist, hat irgendwelche Korrelate im Gehirn. Aber die entsprechende Empfindung ist nicht darstellbar.

Mein Punkt an der KI ist übrigens gar nicht, dass ich nicht technikaffin wäre. Was ich mit einem gewissen Verdruss beobachte ist lediglich die schon erwähnte Analogisierung. Also den Menschen so zu verstehen, wie die Programme und Geräte, denen man Intelligenz zuschreibt. Das ist eben ein gewisser Reduktionismus, der an dem vorbeigeht, was eine Person ausmacht. Der schon erwähnte Fuchs hat hier schon ein paar gute Arbeiten vorgelegt.