Wissenschaftler: Computer werden niemals denken können

[Alethos]

Lernen. Soso. Wo kommt denn Dein "Lernbegriff" her? Du meinst doch nicht etwa so, wie wir Menschen lernen, oder?

Natürlich nicht. Das zu behaupten, ist deine Paradedisziplin.

Na wo hast Du ihn denn sonst her? Erklär doch mal.

Ich meine natürlich nicht lernen, wie wir Menschen. Wie sollte das für eine Maschine, die keine Gefühle hat, wie wir, die keine Geschichte hat, wie wir, die keinen Leib hat, wie wir, die keine Sensorik hat, wie wir, etwas tun können, wie wir? Antwort: Gar nicht.

Darum müssen wir das autonome
Informationsverarbeitende, was Maschinen leisten, insbesondere, dasjenige, das künftige Maschinen leisten werden, dennoch beschreiben können. Und wir beschreiben es falsch, wenn wir sagen, es ist eine Imitation des menschlichen Denkens oder des menschlichen Bewusstseins oder des menschlichen Lernens. Es ist eine genuin maschinelle Form dieser Vermögen und hierfür brauchen wir Begriffe, die dieser Form gerecht werden.

Wenn eine Maschine in der Lage sein sollte zu lernen, dem Begriff "Ich" eine Bedeutung zu geben, dann müssen wir hierfür einen Begriff finden, der analog zu unserem Begriff das beschreibt, was du oder ich meinen, wenn wir "Ich" sagen.

[Jörn Budesheim]

Was ich dagegen vorschlage, ist einen anderen Denkbegriff für das anzuwenden, was Maschinen zu tun in der Lage sein werden, wenn sie selbstlernend mit Welt interagieren. Wenn ihr dem nicht "Denken" sagen wollt, weil dieser Begriff "reserviert" ist für leibliche Wesen, dann finden wir einen anderen.

Nun wissen wir aber nicht, was passieren wird. Ich finde es auch keine Frage der Offenheit, Begriffe auf etwas anzuwenden, auf das sie einfach nicht passen.

Wir wissen ziemlich sicher, dass jetzt in diesem Moment kein Computer auch nur im entferntesten etwas tut, was man denken nennen könnte, in dem Sinne, wie ich es oben erläutert habe. Die technologischen Entwicklungen haben im Moment ein rasantes Tempo, das läßt sich schwerlich leugnen. Wir müssen aber nicht im vorauseilenden Gehorsam einen Namen für etwas finden, von dem wir nicht wissen, was es sein wird.

Aber in diesem Moment gibt es Menschen, die von sich selbst im Ernst glauben, dass sie eine Art Computer oben im Kopf haben. Und das ist ein wirkliches Problem.

[NaWennDuMeinst]

Hi Burkart,

Letztlich geht es ja um mehrere Aspekte: "Können Computer denken?" (Thema), Bewusstsein und in dem Zusammenhang sicherlich auch, was Denken überhaupt ist, z.B. ob Denken als Roboter "möglicher" ist als nur der reine Coumputer u.a.
Und mir ist dem Zusammenhang immer wichtig, dass mit KI *nicht* 100%ig der Mensch "nachgeäfft" werden soll, sondern nur, dass sie ähnlich intelligent sein soll.

Dann solltest es hier aber auch nicht um "Denken" gehen, sondern nur um eng eingegrenzte Teile des Denkes.
Das ist so wie wenn man sagt, man wolle gar keinen Hammer bauen, sondern nur die Bahn oder die Finne.
Ist das Ergebnis dann noch ein Hammer? Nein, natürlich nicht. Und wir sollten es dann auch nicht so nennen.

Wie betont: Ich erwarte auch nicht, dass eine KI genauso fühlen und ggr. wirr phantasieren kann wie Menschen.
Sicher haben diese Dinge Einfluss auf das menschliche Denken, aber es ist ja nicht das Ziel, dass die KI genauso wie ein Mensch denkt. Vielmehr hoffe ich, dass sie nicht so egoistisch wie Menschen ist, was wieder mit Gefühlen zusammenhängt.

Sie wird dann aber auch nicht lieben können wie Menschen. Und das ist zum Beispiel bei ethischen Überlegungen absolut unverzichtbar.
Aber es geht nicht nur darum, dass die Maschine "ein Herz" hat, sondern auch darum, dass Emotionen unabdingbar für das Verstehen bestimmter Dinge sind.
Dinge die uns Menschen betreffen. Wir reden hier ja nicht von Maschinen, die dann auf einem Maschinenplaneten existieren und niemals einen Menschen zu Gesicht bekommen, sondern diese Dinger sollen ja Teil unseres Lebens sein. Und letztlich sollen sie uns behilflich sein. Darum geht es ja bei der ganzen Geschichte.

Das heißt aber nicht, dass die KI nicht auch sensorisch "empfinden" (=Daten quasi intutitiv erfassen durch hohe Geschwindigkeit und effektive Verarbeitung) kann, Gedanken rein deduktiv und ggf. eher zufällig verarbeiten kann (=träumen) und u.U. sinnvoll Phantasie zu entwickeln (quasi Neues aus Bekanntem 'neu' zusammenstellen).

Ich denke Phantasie ist mehr als nur die Vermischung von Altbekanntem.
Der Mensch verfügt über sowas was ich "echte Kreativität" nennen würde. Und natürlich hat er auch eine emotionale Innenwelt aus der heraus Vorstellungen entstehen.
Das alles kann eine Maschine nicht (und ich meine niemals, also prinzipiell nicht) leisten.
Hinzu kommt, dass Emotionen für den Menschen eine unverzichtbare Informationsquelle sind. Eine Informationsquelle auf die Maschinen nicht zugreifen können.
Das schränkt ihr "Denken" massiv ein.

Dass wir nicht perfekt definieren können, was Denken ist: Einverstanden. Noch weniger aber können wir definieren, was Bewusstsein ist, oder?

Wir sind da auf das beschränkt, was wir an uns selbst erleben. Demensprechend sind unsere Vorstellung auch stark durch uns selbst geprägt.

Die Frage ist, ob der Mensch nicht auch (unbewusst) determniert ist und quasi so auch Algorithmen folgt.

Das finde ich interessant. Du verwehrst Dich zwar weiter unten dagegen, dass ich Dir unterstelle, Du würdest Dir Menschen wie "Bioroboter" vorstellen, aber all Dein Schreiben zielt doch immer genau in diese Richtung: Der Mensch ist bei Dir "bedürfnisgelenkt", "von Algorithmen (unbewusst) gesteuert" usw. Das ist eigentlich nichts anderes als die Ansicht, dass der Mensch eine biomechanische Maschine ist. Und von daher einer künstlichen Maschine wenn nicht gleich, dann doch zumindest sehr ähnlich.
Das sehe ich komplett anders. Daher rühren auch(!) unsere unterschiedlichen Ansichten.
Ich glaube an den freien Willen. Ich glaube daran, dass Menschen sich spontan ändern können (niemand wird z.B. als Verbrecher geboren).
Es gibt natürlich biologische Einschränkungen. Aber selbst die können wir ignorieren. Wir können uns also zu Tode hungern.
Das ist also ein Grad an Freiheit dem unserem Denken zu eigen ist, von dem ich nicht wüsste wie Maschinen den erreichen sollten.

Wir sollten unterscheiden zwischen

1.(a) "bisher nicht umsetzbar" bzw. (b) "bisher nicht umgesetzt"
2. "logisch nicht umsetzbar" und
3. "nicht erwünscht umzusetzen".

1. wird irgendwann gehen, 3. wollen wir gar nicht und zu 2. müssen wir genau analysieren.
Eine Basisprogrammierung zu 1 (b) geht auf jeden Fall, man muss sich nur angehen.

Nun weiß ich nicht, was Du mit "Basisprogrammierung" meinst, aber ich gehe stark davon aus, dass man das dann nicht guten Gewissens "echtes" Denken nennen wird können.
Vielleicht so wie mit dem Hammer: Ein bestimmter funktionaler Teil des Denkens. Das ist aber kein Denken. Es ist eine kastrierte Simulation bestimmter Denkfunktionen.

Mir ging es um erstmal nur um die Frage, ob nicht auch Bewusstsein ohne Emotionen vorstellbar ist. (Oder definiere gerne "Bewusstsein" genauer.)

Deshalb bringe ich ja die Emotionen mit ins Spiel. Ich denke zum Bewusstsein, zu den mentalen Zuständen die ein Bewusstsein ausmachen, gehören auch Emotionen.
Aber ja, theoretisch wäre ein Bewusstsein auch ohne Emotionen denkbar. Ein solches Bewusstsein wäre aber nicht imstande uns adäquat bei Problemen weiterzuhelfen in die Emotionen involviert sind. Und das sind - ausser reinen Berechnungen - so gut wie alle.

Ja, Menschen können ihre Emotionen wohl nicht komplett ignorieren, auch wenn dies manchmal sehr hilfreich wäre.[...]
Sind also menschliche Emotionen nicht also auch nachteilig!?

In dem Film "Equilibrium", in dem eine dystopische Welt beschrieben wird, in der Emotionen verboten sind und mit Drogen unterdrückt werden, gibt es eine schöne Passage.
Kurz vor ihrer Hinrichtung wegen "Sinnestaten" fragt die Verurteilte ihren Henker:

"Was ist der Sinn ihrer Existenz? Zu fühlen. Sie werden ganz sicher nicht wissen, was das ist. Aber es ist notwendig wie der Atem und ohne Gefühl, ohne Liebe, ohne Wut, ohne Trauer ist unsere Existenz nur eine Uhr, die tickt"

Das sind Maschinen. Uhren die ticken.

Ethische Probleme sind ein Spezialfall, meist geht es um praktische oder logische Probleme, und dafür sollte die KI zuerst einmal da sein.

Also geht es nur darum eine Finne zu bauen, nicht den ganzen Hammer.

Natürlich soll eine emotionslose KI nicht einfach über uns Menschen herrschen, aber das hatte ich ja schon an anderer Stelle geschrieben (KI als Diener bzw. hier als Berater).

Herrschen sowieso nicht. Aber auch ich meinte nur die Beraterfunktion. Wie soll uns eine Maschine bei Fragen beraten die man nur sinnvoll beantworten kann, wenn man fühlen kann? Das wird sie wohl nicht leisten können. Da kann nur Unsinn bei raus kommen.

Die sind (genetisch) programmiert und spulen dann ihr Programm ab.

Nein, habe ich das oben irgendwie geschrieben? Oder willst du verneinen, dass Grundlegendes beim Menschen angeboren ist?

Nein. Aber ich verneine, dass der Mensch darauf beschränkt ist. Dass alles an ihm wie eine "Programmierung" abläuft.
Diese Vorstellung halte ich für komplett falsch.
Das ist vielleicht bei Maschinen so, und das ist eben auch der grundlegende Unterschied zum Menschen.

Nicht "daher", aber natürlich bedarf es einer Programmierung, wie soll es sonst gehen?

Das ist die Frage: Wie kommt es dazu, dass der Mensch Dinge macht, die ihm nicht "einprogrammiert" wurden?
Das ist ja das was ich meine: Es ist ein grundsätzlicher Fehler anzunehmen, dass gewisse Fähigkeiten die der Mensch hat, und die man bei Maschinen nachbilden will, folge irgendeiner Programmierung sind, oder im Menschen wie "Programme" ablaufen.
Und deshalb sind sie in Maschinen auch nicht umsetzbar. Denn wie Du selbst sagst: Mehr als einen programmatischen Ablauf gibt es bei den Maschinen nicht.

Aber hier liegt eben schon mMn der Fehler. Denn so wie Du da den Menschen beschreibst ist er nicht.

Ich beschreibe ihn nicht so, nur du - außer ggf. mit dem grundlegend Angeborenen.

Doch, Du beschreibst ihn so. Andauernd. Siehe oben. Es kann sein, dass Du das nicht so meinst. Aber Du beschreibst den Menschen andauernd so wie eine Maschine in der irgendwas programmartig abläuft. Und daraus folgt dann eben auch die Vorstellung, dass man Denken, Intelligenz, Bewusstsein programmatisch nachbilden kann.
Denken ist ein Programm. Und weil das ein Programm ist, kann ich es eben auch nachprogrammieren.
So ist die Denke. Aber die könnte ja falsch sein. Oder?

Aber wenn alle grundlegenden Bedürfnisse erfüllt sind,

Was heißt für dich "grundlegend"? Hast du höhere Bedürfnisse da schon mit einbezogen, siehe z.B. Sicherheit, Soziales bis hin zur Selbstverwirklichung (siehe z.B. die Maslowsche Bedürfnishierarchie)?

Man kann natürlich alles zu "Bedürfnisbefriedigung" erklären. Dann gibt es ein "Kunstbedürfnis", ein "Spielbedürfnis", ein "Gesellschaftsbedürfnis" usw.
Auch hier wieder: Der Mensch als Bioroboter. Bei allem was er macht spult er genetisch "einprgrammierte" Programme ab, die ihm Bedürfnisse aufzwingen.
Das kann dann aber zum Beispiel nicht erklären, wieso Menschen bestimmte "höhere Bedürfnisse" gar nicht verspüren, oder warum sie unterschiedliche Gewichtungen bei der Befriedigung dieser "Bedürfnisse" setzen.

Wo in unserer DNA befindet sich zum Beispiel das "Kultur-Gen"? Wo das Spiritualitäts-Gen?

Warum soll es denn sowas geben?

Es ging um die Frage, was der Mensch alles macht ohne das er dazu durch seine Gene gezwungen oder gedrängt ist.
Gene setze ich hier gleich mit der Programmierung bei Computern.
Gegner der Annahme, dass das Bewusstsein nicht am Computer nachgebildet werden kann, argumentieren immer, dass ein Mensch im Prinzip ja auch nur Programme abspult.
Gemeinschaft, Spiritualität, Emotionen.. Alles Bioprogramme. Da brauxcht man nur den Code, und den programmiert man dann einer Maschine ein, und voila... ein Robotermensch. Zumindest in der Theorie.
Aber ich denke das ist schon in der Theorie falsch, denn es geht eben von der falschen Annahme aus, alles was der Mensch macht sei ihm "einprogrammiert" oder würde in der Art eines Programmes im Menschen ablaufen.

In dem Film "A.I." stösst der kleine Kind-Androide David auf die Geschichte "Pinocchio" und setzt diese (fiktive) Geschichte in ein Verhältnis zu sich selbst. David fängt an nach der "blauen Fee" aus der Geschichte zu suchen, weil er glaubt dass diese ihn zu einem "echten Jungen" machen kann.

Ja, einer KI Märchen vorzulesen, so dass diese sie als solche begreift, ist schon eine interessante Idee. Auch Kinder müssen die Trennung zwischen Märchen und Wirklichkeit erst lernen, wie wohl (fast) jeder mit dem Weihnachtsmann lernt.

Darum geht es nicht. Es geht um das genaue Gegenteil: Nämlich aus etwas, das es in der Realität gar nicht gibt, seine Motivation zu ziehen.
So wie Millionen von Menschen jeden Tag zu Gott beten und ihr Leben nach ihm und seinen Geboten ausrichten.
Woran glauben Maschinen? Können Sie überhaupt glauben?

KI kann und soll ihre Programmierung auch nicht ändern, sondern sie nur ständig ausbauen, ähnlich wie es der Mensch auch quasi tut.

Irgendwie missverstehen wir uns hier.
Es geht darum, dass eine Maschine ihre Aufgaben durch die Programmierung erhält. Sie kann sich keine eigenen Aufgaben suchen und sich auch nicht ihrer Programmierung widersetzen.
Ein Mensch kann das aber.

Menschen können nicht einfach sich beliebig ändern, sondern auch nur anpassen, auch wenn es anders natürlich besser klingt, gerade von Motivationstrainern u.ä.

Es geht nicht darum, dass der Mensch zum Fisch werden kann, sondern dass er nicht einem stupiden Programm folgt.
Er funktioniert halt einfach ganz anders als ein Computer.
Bei dem ganzen Geschreibe hier geht es genau darum: Nämlich um die irrige Annahme Denken sei sowas wie ein "Programm" das man einfach nur "nachprogrammieren" muss.
Das ist einfach Quatsch. So funktioniert das nicht. Und deshalb wird es auch keine denkenden Maschinen geben. Weil der Ansatz schon falsch ist.
Jetzt sagst Du: "Ja, aber was soll man denn mit Maschinen anderes machen als sie zu programmieren?"
Und ich sage nun: Ja, eben!

Ziele setzen kann sich eine KI auch, s.o. u.a. Dazu bedarf es keiner menschlichen Träume.

Für Ziele die aus Träumen erwachsen bedarf es selbstverständlich Träume.
Und für Ziele die aus Emotionen entstehen braucht es natürlich Emotionen.

[NaWennDuMeinst]

Aber in diesem Moment gibt es Menschen, die von sich selbst im Ernst glauben, dass sie eine Art Computer oben im Kopf haben. Und das ist ein wirkliches Problem.

Das ist ein ganz grobes Missverständnis, aus dem auch der Glaube herrührt, dass man Denken einfach "prgrammatisch" nachbilden kann.
Das mag mit Teilen des Denkens (vor allem dem logischen Denken) der Fall sein, aber der ganze Umfang des Denkens beschränkt sich nicht nur auf Logik.
Logikapparate können wir bauen. Aber die hängen sich einfach auf, wenn sie mit etwas konfrontiert werden, was nicht in ihr Logikkalkül passt.

[Alethos]

Aber in diesem Moment gibt es Menschen, die von sich selbst im Ernst glauben, dass sie eine Art Computer oben im Kopf haben. Und das ist ein wirkliches Problem.

Das ist wahr und das stellt uns vor weitverzweigte und tiefgehende Probleme. Wenn der Mensch in dieser Form als nach einem Reiz-Reaktionsschema funktionierender Mechanismus verstanden wird, gerät sehr schnell aus dem Blick, dass er ein mit Würde ausgestattetes, empfindsames Wesen ist, das eben deshalb, weil er das ist, Rechte hat. Darum müssen wir dagegen ankämpfen, den Menschen als Bio-Maschine darzustellen.

Das steht aber nicht in scharfem Kontrast zu den Anliegen gewisser Ingenieure, Maschinen zu erschaffen, die sich selbst etwas beibringen können und auch widerspricht das nicht der Vorstellung, dass Maschinen empfindungsfähige Systeme werden können. Das muss ja nicht zwangsläufig in einem Terminator-Szenario enden, bei dem Maschinen als "seelenlose Killereinheiten" porträtiert werden, sondern kann auch gedacht werden als friedliche und produktive Koexistenz von künstlichem und natürlichem Dasein.

[Alethos]

Aber in diesem Moment gibt es Menschen, die von sich selbst im Ernst glauben, dass sie eine Art Computer oben im Kopf haben. Und das ist ein wirkliches Problem.

Das ist ein ganz grobes Missverständnis, aus dem auch der Glaube herrührt, dass man Denken einfach "prgrammatisch" nachbilden kann.
Das mag mit Teilen des Denkens (vor allem dem logischen Denken) der Fall sein, aber der ganze Umfang des Denkens beschränkt sich nicht nur auf Logik.
Logikapparate können wir bauen. Aber die hängen sich einfach auf, wenn sie mit etwas konfrontiert werden, was nicht in ihr Logikkalkül passt.

Ich kenne auch Menschen, die klinken sich einfach aus, wenn man ihnen beibringen will, dass Logik nicht die volle Wirklichkeit abbildet. Denn etwas scheint nicht ganz in unser Hirn passen zu wollen: Dass es Wahrheit auch im Widerspruch gibt.

Das ist offenbar eine Wahrheit, die wir fühlen, aber nicht unbedingt in diesem logischen Sinn von Denken denken können.

[NaWennDuMeinst]

Ich kenne auch Menschen, die klinken sich einfach aus, wenn man ihnen beibringen will, dass Logik nicht die volle Wirklichkeit abbildet.

Ich nehme an, damit bin ich gemeint. Du vergisst nur leider zu erwähnen, dass der Kontext ein anderer war.
Auch geht es hier gerade nicht um die "volle Wirklichkeit" sondern um die Frage wie unser Denken funktioniert.

[NaWennDuMeinst]

Das steht aber nicht in scharfem Kontrast zu den Anliegen gewisser Ingenieure, Maschinen zu erschaffen, die sich selbst etwas beibringen können und auch widerspricht das nicht der Vorstellung, dass Maschinen empfindungsfähige Systeme werden können.

Wie denn? Wie bringt man einer Maschine das Fühlen bei?

[Jörn Budesheim]

Ich kenne auch Menschen, die klinken sich einfach aus, wenn man ihnen beibringen will, dass Logik nicht die volle Wirklichkeit abbildet. Denn etwas scheint nicht ganz in unser Hirn passen zu wollen: Dass es Wahrheit auch im Widerspruch gibt.

Ich sehe das etwas anders: derjenige, der den Satz vom Widerspruch nicht akzeptiert, klinkt sie sich damit aus.

[Alethos]

Ich kenne auch Menschen, die klinken sich einfach aus, wenn man ihnen beibringen will, dass Logik nicht die volle Wirklichkeit abbildet. Denn etwas scheint nicht ganz in unser Hirn passen zu wollen: Dass es Wahrheit auch im Widerspruch gibt.

Ich sehe das etwas anders: derjenige, der den Satz vom Widerspruch nicht akzeptiert, klinkt sie sich damit aus.

Wenn diese Ansicht impliziert, dass Wahrheit nur eine Sache der Logik ist, dann hat ein philosophisches Gespräch über Wahrheit viel Grundlage verloren. Wenn die Ansicht das nicht impliziert, ist der Satz des Widerspruchs wenigstens für gewisse Bereiche der Wirklichkeit schlicht unerheblich, weil nicht anwendbar.

[Burkart]

Hi Burkart,

Letztlich geht es ja um mehrere Aspekte: "Können Computer denken?" (Thema), Bewusstsein und in dem Zusammenhang sicherlich auch, was Denken überhaupt ist, z.B. ob Denken als Roboter "möglicher" ist als nur der reine Coumputer u.a.
Und mir ist dem Zusammenhang immer wichtig, dass mit KI *nicht* 100%ig der Mensch "nachgeäfft" werden soll, sondern nur, dass sie ähnlich intelligent sein soll.

Dann solltest es hier aber auch nicht um "Denken" gehen, sondern nur um eng eingegrenzte Teile des Denkes.

Wieso soll es hier um eng eingegrenzte Teile des Denkens gehen? Um welche (nicht)?
Also was bzgl. Denken aus wikipedia wird hier eingeschränkt? (Wobei man natürlich das rein auf Menschen bezogene "psychologisch" weglässt.)
"Unter Denken werden alle (psychologischen) Vorgänge zusammengefasst, die aus einer inneren Beschäftigung mit Vorstellungen, Erinnerungen und Begriffen eine Erkenntnis zu formen versuchen."
Was an Vorstellungen, Erinnerungen und Begriffen hinsichtlich Erkenntnis ist denn eingeschränkt?

Das ist so wie wenn man sagt, man wolle gar keinen Hammer bauen, sondern nur die Bahn oder die Finne.
Ist das Ergebnis dann noch ein Hammer? Nein, natürlich nicht. Und wir sollten es dann auch nicht so nennen.

Den Vergleich kann ich nicht nachvollziehen.

Wie betont: Ich erwarte auch nicht, dass eine KI genauso fühlen und ggr. wirr phantasieren kann wie Menschen.
Sicher haben diese Dinge Einfluss auf das menschliche Denken, aber es ist ja nicht das Ziel, dass die KI genauso wie ein Mensch denkt. Vielmehr hoffe ich, dass sie nicht so egoistisch wie Menschen ist, was wieder mit Gefühlen zusammenhängt.

Sie wird dann aber auch nicht lieben können wie Menschen. Und das ist zum Beispiel bei ethischen Überlegungen absolut unverzichtbar.
Aber es geht nicht nur darum, dass die Maschine "ein Herz" hat, sondern auch darum, dass Emotionen unabdingbar für das Verstehen bestimmter Dinge sind.
Dinge die uns Menschen betreffen. Wir reden hier ja nicht von Maschinen, die dann auf einem Maschinenplaneten existieren und niemals einen Menschen zu Gesicht bekommen, sondern diese Dinger sollen ja Teil unseres Lebens sein. Und letztlich sollen sie uns behilflich sein. Darum geht es ja bei der ganzen Geschichte.

Das heißt aber nicht, dass die KI nicht auch sensorisch "empfinden" (=Daten quasi intutitiv erfassen durch hohe Geschwindigkeit und effektive Verarbeitung) kann, Gedanken rein deduktiv und ggf. eher zufällig verarbeiten kann (=träumen) und u.U. sinnvoll Phantasie zu entwickeln (quasi Neues aus Bekanntem 'neu' zusammenstellen).

Ich denke Phantasie ist mehr als nur die Vermischung von Altbekanntem.
Der Mensch verfügt über sowas was ich "echte Kreativität" nennen würde.

Definiere "echte Kreativität" bzw. nenne bitte ein Beispiel, wo Kreativität echter ist als andere.

Und natürlich hat er auch eine emotionale Innenwelt aus der heraus Vorstellungen entstehen.
Das alles kann eine Maschine nicht (und ich meine niemals, also prinzipiell nicht) leisten.

Vorstellungen können gut ohne Emotionen entstehen.

Hinzu kommt, dass Emotionen für den Menschen eine unverzichtbare Informationsquelle sind. Eine Informationsquelle auf die Maschinen nicht zugreifen können.
Das schränkt ihr "Denken" massiv ein.

Was für Informationen sollen es sein außer Emotionen? Insbesondere halbwegs sachliche, möglichst allgemein nachvollziehbare?

Dass wir nicht perfekt definieren können, was Denken ist: Einverstanden. Noch weniger aber können wir definieren, was Bewusstsein ist, oder?

Wir sind da auf das beschränkt, was wir an uns selbst erleben. Demensprechend sind unsere Vorstellung auch stark durch uns selbst geprägt.

Na ja, beschränkt darauf sind wir nur bedingt; wir haben viele Informationsquellen, um viel durch Andere mitzuerleben sozusagen, dies prägt uns mit.

Die Frage ist, ob der Mensch nicht auch (unbewusst) determniert ist und quasi so auch Algorithmen folgt.

Das finde ich interessant. Du verwehrst Dich zwar weiter unten dagegen, dass ich Dir unterstelle, Du würdest Dir Menschen wie "Bioroboter" vorstellen,

Bei Begriff (samt die ursprunglichen Vorstellungen) stammt von dir, also den Menschen auf einen Roboter zu reduzieren.

aber all Dein Schreiben zielt doch immer genau in diese Richtung: Der Mensch ist bei Dir "bedürfnisgelenkt", "von Algorithmen (unbewusst) gesteuert" usw.

Das ist eine reine Beschreibung des Menschen, hat grundsätzlich nichts mit einem Roboter zu tun, außer in deiner Interpretation.

Das ist eigentlich nichts anderes als die Ansicht, dass der Mensch eine biomechanische Maschine ist. Und von daher einer künstlichen Maschine wenn nicht gleich, dann doch zumindest sehr ähnlich.

Wenn du das so siehst, ich tue es nicht. Du versucht mir einzureden, dass ich aus dem Menschen eine Maschine machen will, was aber falsch ist - ich hoffe, du siehst das nun ein.

Das sehe ich komplett anders. Daher rühren auch(!) unsere unterschiedlichen Ansichten.
Ich glaube an den freien Willen.

Ich auch für den Menschen (siehe ggf. 40374 in "Weiterkommen in der Philosophie").

Ich glaube daran, dass Menschen sich spontan ändern können (niemand wird z.B. als Verbrecher geboren).

Also ich kann mich nicht spontan einfach so ändern und zum Verbrecher wird man i.a. auch nicht so einfach spontan; das wäre aber sonst ein trauriges Menschenbild.

Es gibt natürlich biologische Einschränkungen. Aber selbst die können wir ignorieren. Wir können uns also zu Tode hungern.

Das kannst du wohl, aber du kannst nicht alles einfach ändern; irgendwo ist immer eine Grenze, die nicht zu überschreiten ist.

Das ist also ein Grad an Freiheit dem unserem Denken zu eigen ist, von dem ich nicht wüsste wie Maschinen den erreichen sollten.

Eine Maschine hat es gar nicht nötig, sich zu Tode hungern zu wollen
Es mag ja sein, dass ein Mensch irgendwie freier sein kann, aber nenn mir mal ein Beispiel, wo das das (logische) Denken beeinflusst.

Wir sollten unterscheiden zwischen

1.(a) "bisher nicht umsetzbar" bzw. (b) "bisher nicht umgesetzt"
2. "logisch nicht umsetzbar" und
3. "nicht erwünscht umzusetzen".

1. wird irgendwann gehen, 3. wollen wir gar nicht und zu 2. müssen wir genau analysieren.
Eine Basisprogrammierung zu 1 (b) geht auf jeden Fall, man muss sich nur angehen.

Nun weiß ich nicht, was Du mit "Basisprogrammierung" meinst, aber ich gehe stark davon aus, dass man das dann nicht guten Gewissens "echtes" Denken nennen wird können.

Genauso wenig wie die Bedürfnisse des Menschen, (ein Teil) seine(r) "Basisprogrammierung" (und nein, er ist damit kein Roboter).

Vielleicht so wie mit dem Hammer: Ein bestimmter funktionaler Teil des Denkens. Das ist aber kein Denken. Es ist eine kastrierte Simulation bestimmter Denkfunktionen.

Das ist nicht nachvollziehbar.

Mir ging es um erstmal nur um die Frage, ob nicht auch Bewusstsein ohne Emotionen vorstellbar ist. (Oder definiere gerne "Bewusstsein" genauer.)

Deshalb bringe ich ja die Emotionen mit ins Spiel. Ich denke zum Bewusstsein, zu den mentalen Zuständen die ein Bewusstsein ausmachen, gehören auch Emotionen.

Hm, also beim "Erleben mentaler Zustände und Prozesse" kann ich keine Emotionen (unbedingt) entdecken.

Aber ja, theoretisch wäre ein Bewusstsein auch ohne Emotionen denkbar.

Ok

Ein solches Bewusstsein wäre aber nicht imstande uns adäquat bei Problemen weiterzuhelfen in die Emotionen involviert sind. Und das sind - ausser reinen Berechnungen - so gut wie alle.

So gut wie alle?
Wenn ich dich nach einem Weg frage und du ihn mir beschreibst, wo sind da (relevante) Emotionen? (Von der Uhrzeit mal ganz zu schweigen )
Oder ist das so ein ungewöhnliches Problem für dich?

Ja, Menschen können ihre Emotionen wohl nicht komplett ignorieren, auch wenn dies manchmal sehr hilfreich wäre.[...]
Sind also menschliche Emotionen nicht also auch nachteilig!?

In dem Film "Equilibrium", in dem eine dystopische Welt beschrieben wird, in der Emotionen verboten sind und mit Drogen unterdrückt werden, gibt es eine schöne Passage.
Kurz vor ihrer Hinrichtung wegen "Sinnestaten" fragt die Verurteilte ihren Henker:

"Was ist der Sinn ihrer Existenz? Zu fühlen. Sie werden ganz sicher nicht wissen, was das ist. Aber es ist notwendig wie der Atem und ohne Gefühl, ohne Liebe, ohne Wut, ohne Trauer ist unsere Existenz nur eine Uhr, die tickt"

Das sind Maschinen. Uhren die ticken.

Also ich denke wir sind uns einig, dass Emotionen auch nachteilig sein können.

Ethische Probleme sind ein Spezialfall, meist geht es um praktische oder logische Probleme, und dafür sollte die KI zuerst einmal da sein.

Also geht es nur darum eine Finne zu bauen, nicht den ganzen Hammer.

Es geht ums Denken als "Vorgänge, die aus einer inneren Beschäftigung mit Vorstellungen, Erinnerungen und Begriffen eine Erkenntnis zu formen versuchen", um nicht mehr oder weniger (laut wikipedia). Ist die Definition für dich ein Spezialfall? Oder steht da was von Emotion?

Natürlich soll eine emotionslose KI nicht einfach über uns Menschen herrschen, aber das hatte ich ja schon an anderer Stelle geschrieben (KI als Diener bzw. hier als Berater).

Herrschen sowieso nicht. Aber auch ich meinte nur die Beraterfunktion.

Schön, dass wir hier einer Meinung sind.

Wie soll uns eine Maschine bei Fragen beraten die man nur sinnvoll beantworten kann, wenn man fühlen kann? Das wird sie wohl nicht leisten können. Da kann nur Unsinn bei raus kommen.

Sie kann auf Basis von Wissen beraten. Beispiel: Ein männlicher Arzt kann auch einer Frau hinsichtlich Geburt beraten, auch wenn er nichts nachempfinden kann (wie Geburtsschmerz).

Die sind (genetisch) programmiert und spulen dann ihr Programm ab.

Nein, habe ich das oben irgendwie geschrieben? Oder willst du verneinen, dass Grundlegendes beim Menschen angeboren ist?

Nein. Aber ich verneine, dass der Mensch darauf beschränkt ist.

Das sage ich ja auch gar nicht, u.a. weil der Mensch lernt.

Dass alles an ihm wie eine "Programmierung" abläuft.

Da muss du mit Leuten über Willensfreiheit diskutieren, ob es die gibt oder nicht.

Diese Vorstellung halte ich für komplett falsch.
Das ist vielleicht bei Maschinen so, und das ist eben auch der grundlegende Unterschied zum Menschen.

However, dem Denken als "innere Beschäftigung mit Vorstellungen, Erinnerungen und Begriffen" hinsichtlich einer Erkenntnis ist es egal, ob es "programmiert" ist oder nicht; es geht "nur" um "Beschäftigung mit Vorstellungen...", aber irgendwie wiederhole ich mich gerade

Nicht "daher", aber natürlich bedarf es einer Programmierung, wie soll es sonst gehen?

Das ist die Frage: Wie kommt es dazu, dass der Mensch Dinge macht, die ihm nicht "einprogrammiert" wurden?
[/quote]
Z.B. indem er etwas gelernt oder etwas Neues erfahren hat o.ä.
Und Maschinen können auch lernen oder Neues erfahren.

Das ist ja das was ich meine: Es ist ein grundsätzlicher Fehler anzunehmen, dass gewisse Fähigkeiten die der Mensch hat, und die man bei Maschinen nachbilden will, folge irgendeiner Programmierung sind, oder im Menschen wie "Programme" ablaufen.
Und deshalb sind sie in Maschinen auch nicht umsetzbar. Denn wie Du selbst sagst: Mehr als einen programmatischen Ablauf gibt es bei den Maschinen nicht.
[/quote]
Zählt etwas Gelerntes in einen Ablauf mit einzubeziehen für dich auch dazu?

Aber hier liegt eben schon mMn der Fehler. Denn so wie Du da den Menschen beschreibst ist er nicht.

Ich beschreibe ihn nicht so, nur du - außer ggf. mit dem grundlegend Angeborenen.

Doch, Du beschreibst ihn so. Andauernd. Siehe oben. Es kann sein, dass Du das nicht so meinst. Aber Du beschreibst den Menschen andauernd so wie eine Maschine in der irgendwas programmartig abläuft.
[/quote]
Wo denn genau? Bedürfnisse zu folgen heißt nicht gleich einem festen Programm zu befolgen.

Und daraus folgt dann eben auch die Vorstellung, dass man Denken, Intelligenz, Bewusstsein programmatisch nachbilden kann.
Denken ist ein Programm. Und weil das ein Programm ist, kann ich es eben auch nachprogrammieren.
So ist die Denke. Aber die könnte ja falsch sein. Oder?

Sag mir mal eine Aufgabe, die Intelligenz erfordert, die nur ein Mensch lösen kann. Ich bin gespannt, was dir dazu einfällt.
Meine "Denke" ist "nur", dass KI Intelligenz nachbilden können wird, nicht, dass sie einen Menschen nachbildet, vergiss das nicht.

Aber wenn alle grundlegenden Bedürfnisse erfüllt sind,

Was heißt für dich "grundlegend"? Hast du höhere Bedürfnisse da schon mit einbezogen, siehe z.B. Sicherheit, Soziales bis hin zur Selbstverwirklichung (siehe z.B. die Maslowsche Bedürfnishierarchie)?

Man kann natürlich alles zu "Bedürfnisbefriedigung" erklären. Dann gibt es ein "Kunstbedürfnis", ein "Spielbedürfnis", ein "Gesellschaftsbedürfnis" usw.
Auch hier wieder: Der Mensch als Bioroboter. Bei allem was er macht spult er genetisch "einprgrammierte" Programme ab, die ihm Bedürfnisse aufzwingen.

Du mit deinem Bioroboter; du scheinst dieses Bild zu lieben. Dass wir Bedürfnisse haben, an denen wir uns orientieren, wirst du noch nicht negieren, oder?

Das kann dann aber zum Beispiel nicht erklären, wieso Menschen bestimmte "höhere Bedürfnisse" gar nicht verspüren,

Oh, das könnte sogar schon Maslow antworten: Es meint, dass erst die niederen Bedürfnisse befriedigt sein müssten, bevor es um die höheren gehen kann. (Das ist zwar nicht meine Meinung, aber immerhin ist sie nicht völlig abwegig.)

oder warum sie unterschiedliche Gewichtungen bei der Befriedigung dieser "Bedürfnisse" setzen.

Tja, unterschiedliche menschliche "Prägungen", z.B. was er gelernt hat, was ihm beigebracht wurde u.a.

In dem Film "A.I." stösst der kleine Kind-Androide David auf die Geschichte "Pinocchio" und setzt diese (fiktive) Geschichte in ein Verhältnis zu sich selbst. David fängt an nach der "blauen Fee" aus der Geschichte zu suchen, weil er glaubt dass diese ihn zu einem "echten Jungen" machen kann.

Ja, einer KI Märchen vorzulesen, so dass diese sie als solche begreift, ist schon eine interessante Idee. Auch Kinder müssen die Trennung zwischen Märchen und Wirklichkeit erst lernen, wie wohl (fast) jeder mit dem Weihnachtsmann lernt.

Darum geht es nicht. Es geht um das genaue Gegenteil: Nämlich aus etwas, das es in der Realität gar nicht gibt, seine Motivation zu ziehen.

Also wie an den Weihnachtsmann zu glauben und ihm lieber mal ein nettes Gedicht aufzusagen

So wie Millionen von Menschen jeden Tag zu Gott beten und ihr Leben nach ihm und seinen Geboten ausrichten.

Das ist für mich mehr eine kulturelle Angelegenheit, quasi eine Übereinkunft der Gemeinschaft.
interessant wäre mal, ob ein Kind ohne jeglichen Bezug zu Religion selbst auf die Idee nach einem Gott käme; vermutlich meist nicht.

Woran glauben Maschinen? Können Sie überhaupt glauben?

Das tut eine Maschine schon, wenn sie nach meiner Vorstellung einem ihr Dinge beibringen Menschen implizit vertraut, ähnlich wie ein Kind seinen Eltern.
Ok, das meintest du wahrscheinlich nicht. Hm, ich überlege gerade, ob ich an etwas in deinem Sinne glaube... mir fällt dazu nichts ein.
Aber gut, wenn jemand eine tolle Geschichte erzählt, mag man die glauben oder auch nicht... und vielleicht auch mal eine KI.

KI kann und soll ihre Programmierung auch nicht ändern, sondern sie nur ständig ausbauen, ähnlich wie es der Mensch auch quasi tut.

Irgendwie missverstehen wir uns hier.
Es geht darum, dass eine Maschine ihre Aufgaben durch die Programmierung erhält. Sie kann sich keine eigenen Aufgaben suchen und sich auch nicht ihrer Programmierung widersetzen.
Ein Mensch kann das aber.

Der Mensch kann sich auch nicht grenzenlos widersetzen, aber das hatten wir oben schon mal. Auch kann sich eine KI auch mal eigene Aufgaben suchen, die sie für sinnvoll erachtet (anhand ihres Wissens u.ä.).

Menschen können nicht einfach sich beliebig ändern, sondern auch nur anpassen, auch wenn es anders natürlich besser klingt, gerade von Motivationstrainern u.ä.

Es geht nicht darum, dass der Mensch zum Fisch werden kann, sondern dass er nicht einem stupiden Programm folgt.
Er funktioniert halt einfach ganz anders als ein Computer.
Bei dem ganzen Geschreibe hier geht es genau darum: Nämlich um die irrige Annahme Denken sei sowas wie ein "Programm" das man einfach nur "nachprogrammieren" muss.
Das ist einfach Quatsch. So funktioniert das nicht. Und deshalb wird es auch keine denkenden Maschinen geben. Weil der Ansatz schon falsch ist.
Jetzt sagst Du: "Ja, aber was soll man denn mit Maschinen anderes machen als sie zu programmieren?"
Und ich sage nun: Ja, eben!

Also noch ein letztes Mal wikipidia mit Denken als Zusammenfassung von "Vorgängen, die aus einer inneren Beschäftigung mit Vorstellungen, Erinnerungen und Begriffen eine Erkenntnis zu formen versuchen": Was geht hieran nicht für eine KI?
Oder gefällt dir dieser Denkbegriff nicht? Irgendeinen möglichst allgemeinen sollten wir doch nehmen, oder nicht?

Ziele setzen kann sich eine KI auch, s.o. u.a. Dazu bedarf es keiner menschlichen Träume.

Für Ziele die aus Träumen erwachsen bedarf es selbstverständlich Träume.

Ok, Träume im Sinne von unterbewusstem, deduktiven Verarbeiten, von mir aus

Und für Ziele die aus Emotionen entstehen braucht es natürlich Emotionen.

Und Emotionen sind eben nicht nötig - wir wollen doch nicht, dass durch eine blöde Emotion eine KI zum Mörder wird.

[Burkart]

Das steht aber nicht in scharfem Kontrast zu den Anliegen gewisser Ingenieure, Maschinen zu erschaffen, die sich selbst etwas beibringen können und auch widerspricht das nicht der Vorstellung, dass Maschinen empfindungsfähige Systeme werden können.

Wie denn? Wie bringt man einer Maschine das Fühlen bei?

Aufnahme von Daten aus der Welt und deren Verarbeitung
Als Hardware gibt es dazu ja Sensoren...
Und schon kann eine Maschine fühlen, ob sie ein Objekt berührt oder nicht, so als Beispiel.

[Jörn Budesheim]

Wenn diese Ansicht impliziert, dass Wahrheit nur eine Sache der Logik ist, dann hat ein philosophisches Gespräch über Wahrheit viel Grundlage verloren. Wenn die Ansicht das nicht impliziert, ist der Satz des Widerspruchs wenigstens für gewisse Bereiche der Wirklichkeit schlicht unerheblich, weil nicht anwendbar.

Gemäß Frege geht es in der Logik um die "Gesetze des Wahrseins".

[NaWennDuMeinst]

Das steht aber nicht in scharfem Kontrast zu den Anliegen gewisser Ingenieure, Maschinen zu erschaffen, die sich selbst etwas beibringen können und auch widerspricht das nicht der Vorstellung, dass Maschinen empfindungsfähige Systeme werden können.

Wie denn? Wie bringt man einer Maschine das Fühlen bei?

Aufnahme von Daten aus der Welt und deren Verarbeitung
Als Hardware gibt es dazu ja Sensoren...
Und schon kann eine Maschine fühlen, ob sie ein Objekt berührt oder nicht, so als Beispiel.

OK. Mein Fehler. Wie bringt man Maschinen Emotionen bei?
Zum Beispiel die Empfindung "schön", die für uns Menschen selbstverständlich ist. und auch einen großen Einfluß darauf hat, wie wir die Objekte wahrnehmen.

Emotionen sind doch ein ganz wichtiger Teil unseres Denkens. Sie liefern uns ja zusätzliche Informationen über die Objekte. Informationen die eine Maschine nicht hat. Nicht haben kann.
Und weil das so ist, kann sie eben auch jegliche Entscheidungen die auf diesen Informationen basieren gar nicht nachvollziehen.
Was soll eine Maschine zum Beispiel mit dieser Begründung anfangen: "Das Stadtbild sollte von lebendigem Grün geprägt sein, weil das schön ist"?
Oder könnte eine Maschine etwa den Satz nachvollziehen: "Ich muss Ella helfen, weil ich sie liebe"?
Das kann die Maschine ja überhaupt nicht verstehen, noch könnte sie selbst so eine Begründung liefern.
Für uns sind Emotionen aber ganz gewichtige Gründe.
Alles was als Begründung Emotionen hat muss der Maschine hingegen völlig abgehen.
Es gibt genug Sci-Fi-Literatur in der dieser Umstand ausschweifend beschrieben wird.

[NaWennDuMeinst]

Hi Burkart,

Letztlich geht es ja um mehrere Aspekte: "Können Computer denken?" (Thema), Bewusstsein und in dem Zusammenhang sicherlich auch, was Denken überhaupt ist, z.B. ob Denken als Roboter "möglicher" ist als nur der reine Coumputer u.a.
Und mir ist dem Zusammenhang immer wichtig, dass mit KI *nicht* 100%ig der Mensch "nachgeäfft" werden soll, sondern nur, dass sie ähnlich intelligent sein soll.

Dann solltest es hier aber auch nicht um "Denken" gehen, sondern nur um eng eingegrenzte Teile des Denkes.

Wieso soll es hier um eng eingegrenzte Teile des Denkens gehen? Um welche (nicht)?

Die Teile die mit Emotionen zu tun haben.
Und das sind, so sagt es uns die Neurowissenschaft, so gut wie alle.

"Und alles, was wir denken, planen, erkennen, wird von Emotionen begleitet."

https://www.dasgehirn.info/aktuell/frag ... n-computer

Ich glaube diese Tatsache ist vielen einfach nicht klar. Sie stellen sich das Gehirn eben wie einen Computer vor den man einfach nur nachbauen muss.
Das funktioniert so aber nicht, weil man mit dem Bau eines Logikapparates nur einen Aspekt menschlichen Denkens nachbildet. Eben nicht den ganzen Hammer, sondern nur die Finne oder die Bahn.
Das ist dann aber kein Hammer. Das ist nicht das Denken, sondern ein Teilaspekt des Denkens.
Ein ganz anderer wichtiger Teil des Denkens bleibt aussen vor.
Das ist gemeint.
Und nun ist die Frage ob es überhaupt gelingen kann, das Denken in einer Maschine nachzubilden, die prinzipiell einen essentiellen Teil des Denken gar nicht haben kann.
Ich denke nicht. Logikapparat: Ja. Ein denkendes Wesen? Eher nicht.

Hier liegen glaube ich auch zwei unterschiedliche Vorstellung des Denkens vor. Für die einen gibt es Denken und Fühlen, für die anderen gehört das zusammen (kein Denken ohne begleitende Emotionen).

[Burkart]

Wie erklärst du dir, dass im wikipedia-Artikel zum Denken die "Emotion" nicht einmal erwähnt wird? Sollte es nur Zufall sein? Auch die "Gefühle" werden nur einmal dort erwähnt und das nur als innerhalb einer längeren Aufzählung.
Eine Möglichkeit ist, dass Emotion/Gefühl keine sehr große Bedeutung beim Begriff des Denkens hat.
Eine andere ist, dass sich "Emotion" auf einer anderen Kategorien-Ebene befindet.

Zu "Und alles, was wir denken, planen, erkennen, wird von Emotionen begleitet."":
Wenn Emotionen begleiten, heißt es ja noch lange nicht, dass sie notwendig sind. (Wenn Eltern ihre Kinder begleiten, mag es sinnvoll sein, aber nicht notwendig.)

Und zu "Für die einen gibt es Denken und Fühlen, für die anderen gehört das zusammen".
Fühlen wieder im Sinne von Datenaufnahme ist ja auch wichtig, also neben Menschen auch für Roboter. Insofern gehört es zusammen, wenn man die Welt hinreichend gut mit Sinnen wahrnehmen möchte.

Dein Denkbegriff mit Emotionen ist anscheinend ungewöhnlich (siehe wikipedia) und unnötig (begleiten heißt nicht notwendig sein - oder aber Emotion auf anderer Kategorienebene!?). Für die KI entscheidend ist jedenfalls, dass sie sehr wohl intelligente Denkprozesse haben kann.

Und noch mal mein einfaches Beispiel bzw. Frage: Wo werden Emotionen gebraucht, um einen Weg zu beschreiben (als einfaches Denk"problem")? Wie wäre es mit einer Antwort auf diese Frage

[Jörn Budesheim]

Jemand fragt nach dem Weg und ich gebe aufrichtig Auskunft, ich könnte schließlich auch lügen oder die fragende Person ignorieren und weitergehen.

Jetzt fragt sich natürlich, warum antworte ich überhaupt? Warum will ich helfen? Warum überhaupt begebe ich mich in ein Gegenüber mit dieser Person? Warum wende ich mich ihr also zu? (das ist keineswegs selbstverständlich, es gibt schließlich auch Szenen, bei denen man schnell weitergeht, wenn man merkt, dass diese Person sich daran macht dich anzusprechen...) Wie kann es sein, dass ich überhaupt verstehe, wonach sie fragt? Muss ich dazu nicht wissen, was es heißt, selbst ein Ziel zu haben? Welchen Grund habe ich wahrheitsgemäß zu antworten?

Für die Person, die fragt, sind natürlich ebenso viele Voraussetzungen im Spiel. Sie muss z.b. einschätzen, welche Frage als angemessen gelten kann, schließlich verlangt sie (von einer unbekannten Person möglicherweise) eine Hinwendung, Zeit und Aufmerksamkeit. Außerdem macht natürlich auch hier der Ton die Musik. Die Frage muss, damit sie angemessen gestellt ist, auf angemessene Art und Weise vorgetragen werden. Dazu gehören natürlich auch die körperliche Haltung, der Gesichtsausdruck und der Abstand, den man zu der Person einnimmt, die man um etwas bittet und vieles andere mehr.

Wenn wir untersuchen, was alles vorausgesetzt ist, damit eine solche Szene überhaupt möglich ist, wenn wir also nach den Bedingungen ihrer Möglichkeit fragen, dann werden wir feststellen, dass wir ziemlich schnell vom Stöckchen aufs Stäbchen kommen.

Diese Szene - wie alle anderen Szenen auch - ist eingebettet in ein nahezu unüberschaubares Netz von Zusammenhängen, ohne dass sie weder möglich noch verständlich wäre.

[Jörn Budesheim]

Was ist ein Weg? Was ist eine Wegbeschreibung? Beides ist, wie ich finde keineswegs etwas "neutrales", einfach gegebenes. Für eine Kugel ist der Weg von A nach B ein anderer als für einen Wurm. Das gilt natürlich auch für Menschen. Zum Beispiel müssen sich unsere verschiedenen leiblichen Bedingtheiten in der Auswahl des empfohlenen Weges angemessen wiederfinden. Das Gleiche gilt für die Beschreibung. Je nach Situation sind ganz verschiedene Beschreibungen angemessen. Hier eine kleine Auswahl, der Fragen, die sich stellen: Wer fragt nach dem Weg? Ein Autofahrer? Ein Fahrradfahrer? Ein Fußgänger? Eine Person mit einer Behinderung? Ein Tourist, der vielleicht an Sehenswürdigkeiten interessiert ist? Ein kleines Kind ohne Begleitung? Jemand, der in Gefahr ist, vielleicht auf der Flucht?

Bei einem kleinen Kind ohne Begleitung wird man in vielen Fällen nicht einfach anteilnahmslos den Weg angeben, man wird zunächst checken, ob vielleicht doch irgendwo "Begleitpersonen" zu sehen sind. Je nachdem wird man dann nach den Eltern fragen: "Bist du ganz alleine unterwegs?" Bei einem touristisches Pärchen, das offensichtlich auf Sehenswürdigkeiten aus ist, wird man anders reagieren als bei jemandem, der in Eile ist, womöglich gar auf der Flucht. Für eine behinderte Person mag ein anderer Weg angemessen sein als für eine Joggerin.

Auch die Art und Weise wie die Beschreibung ausfallen sollte, wird variieren: für die Person in Eile genügt womöglich ein schnelles Zeigen: "bei der Tanke links rein." Die gleiche Antwort kann in anderen Situationen jedoch ganz unangemessen sein.

Das heißt: auch bei so etwas auf den ersten Blick "simplen" wie einer richtigen Wegbeschreibung sind viele (unüberschaubar viele) Aspekte mit im Spiel. Ganz besonders wichtig ist dabei die "Perspektivübernahme". Ohne sie weiß man gar nicht, wonach eigentlich gefragt ist und was als angemessene und richtige Antwort gelten kann. Ein anderes Wort dafür ist: Einfühlungsvermögen, also das Vermögen sich in eine andere Person einzufühlen.

[NaWennDuMeinst]

Dein Denkbegriff mit Emotionen ist anscheinend ungewöhnlich (siehe wikipedia) und unnötig (begleiten heißt nicht notwendig sein - oder aber Emotion auf anderer Kategorienebene!?). Für die KI entscheidend ist jedenfalls, dass sie sehr wohl intelligente Denkprozesse haben kann.

Und noch mal mein einfaches Beispiel bzw. Frage: Wo werden Emotionen gebraucht, um einen Weg zu beschreiben (als einfaches Denk"problem")? Wie wäre es mit einer Antwort auf diese Frage

Wenn sich für Dich der Denkbegriff bereits in solchen Fragen zur Genüge erschöpft, dann können Maschinen auch jetzt schon denken. Schliesslich kann mir jedes Handy eine Antwort darauf geben.
Ich vermute aber mal dass so gut wie Niemand sein Handy als "denkendes Wesen" anerkennen wird. Denn dahin scheint noch irgendwas zu fehlen.
Was das sein könnte hat Jörn schon skizziert. Da geht es um menschliche Interaktion, eine Disziplin die Maschinen leider nur unzureichend beherrschen, was u.a. damit zu tun hat, dass sie wesentliche Teile des menschlichen Verhaltens mangels der Fähigkeit Emotionen zu haben (und nachzuempfinden) nicht nachbilden können.

Aber auch bei der Problemlösung gibt es Unzulänglichkeiten. Du hast Dein Beispiel nämlich bewusst (und ganz billig) aus einer Kategorie gewählt, in der Maschinen ganz gut sind, nämlich beim Berechnungen anstellen.
Ich würde der Maschine eine ganz andere Aufgabe stellen, nämlich

Plane einen Vergnügungspark, der innovative Fahrgeschäfte und Attraktionen enthält.

Hier wird die Maschine aus mehreren Gründen brutal scheitern.
1. Um diese Aufgabe zu lösen, also einen Vergnügungspark zu planen der seinem Sinn nach Vergnügen bereiten soll, muss die Maschine wissen was Vergnügen (eine Emotion) ist, bzw was Vergnügen bereitet.
2. Verschärfend kommt hinzu, dass die Maschine hier nicht einfach irgendwelche Fahrgeschäfte aus anderen, bereits existierenden Vergnügungsparks in das Konzept übernehmen kann, sondern sie muss aus einem Verständnis davon was Vergnügen ist heraus neue Fahrgeschäfte planen die dieses Ziel erfüllen. Auch da wird die Maschine scheitern. Du hast mich oben gefragt, was ich mit "Echter Kreativität" meine. Genau das. Nämlich nicht einfach nur irgendwas Bekanntes neu anzuordnen, sondern auf Basis einer Eingebung (die hier aus Emotionen gezogen wird) etwas wirklich Neues zu erschaffen.

Ich denke ein Mensch könnte das (Beweis: wir machen es ja). Eine Maschine steht hier vor einer schier unlösbaren Aufgabe. Du könntest ihr zwar einen Lexikoneintrag über "Spaß" eintrichtern. Und die Maschine könnte wohl auch auf Basis dieses Wissens etwas planen, was Spaß auslöst, aber sie könnte zum Beispiel niemals eine neue Form von Spaß kreieren, weil das nur Wesen können, die ausprobieren können wie man Spaß erzeugt (weil sie Spaß empfinden können).

Nun wirst Du wieder behaupten, das alles spiele ja für das Denken keine Rolle. Ich sehe das aber anders. Allein wenn man sich unsere Städte anschaut sieht man, dass sie voll von Gebäuden sind, deren Ziel es ist in uns Emotionen auszulösen.
Friedhöfe dienen der Trauer. Parks der Entspannung. Kinos der Unterhaltung. Galerien der Befriedung unseres Ästhetikempfindens usw.... Es ist einfach Unsinn zu behaupten Emotionen seien kein wichtiger Teil des Denkens. Sie sind sogar ein überaus wichtiger Teil. Und das ist ein Teil bei dem Maschinen versagen. Nicht, aus einer Frage der Programmierung heraus, sondern prinzipiell. Weil sie Logikapparate sind. Sie sind einfach ihrer Konstruktion, ihrem Design nach gar nicht dazu in der Lage.

Hinzu kommt, dass das Argument, Denken ginge ja auch ohne Emotionen, nicht greift, weil es hier ja nicht darum geht Maschinen zu schaffen, die irgendwelche (beliebigen) Probleme lösen sollen, sondern es geht darum, dass sie unsere Probleme lösen (oder uns dabei helfen). Wir wollen ja keine Maschinen bauen die dann mit uns überhaupt nichts zu tun haben werden, sondern sie sollen ja mit uns interagieren, uns auch ergänzen. Und deshalb ist eben ein Denkbegriff nötig der über pure Logik und Mathematik hinausgeht.
Warum? Na, weil wir so sind. Deshalb.

[NaWennDuMeinst]

Was ist ein Weg? Was ist eine Wegbeschreibung? Beides ist, wie ich finde keineswegs etwas "neutrales". Für eine Kugel ist der Weg von A nach B ein anderer als für einen Wurm. Das gilt natürlich auch für Menschen. Unsere verschiedenen leiblichen Bedingtheiten müssen sich in der Auswahl des empfohlenen Weges angemessen wiederfinden. Das Gleiche gilt für die Beschreibung. Je nach Situation sind ganz verschiedene Beschreibungen angemessen. Hier eine kleine Auswahl, der Fragen, die sich stellen: Wer fragt nach dem Weg? Ein Autofahrer? Ein Fahrradfahrer? Ein Fußgänger? Eine Person mit einer Behinderung? Ein Tourist, der vielleicht an Sehenswürdigkeiten interessiert ist? Ein kleines Kind ohne Begleitung? Jemand, der in Gefahr ist, vielleicht auf der Flucht?

Richtig. Oder: zeige mir den Weg, auf dem ich am meisten Spaß haben werde.
Maschine: "Öh, bitte wiederholen sie die Frage."
(oder nein. Eher: "Bitte stellen sie eine andere Frage. Wollen Sie nicht doch lieber den Weg der am schnellsten ist?")