Wissenschaftler: Computer werden niemals denken können

[Jörn Budesheim]

Ich sehe eher die damit verbundene, reduzierte Vorstellung von Intelligenz als "böse Bedrohung".

[Burkart]

Ich sehe eher die damit verbundene, reduzierte Vorstellung von Intelligenz als "böse Bedrohung".

Sowas habe ich mir schon ungefähr gedacht.
Wobei... Meinst du mir "reduziert" das von Menschen auf Maschine?
Falls ja: Ich sehe es eher umgekehrt, so z.B. hinsichtlich Emotionen:
Klar, sie haben positive Aspekte, aber eben auch viele negative.
Schauen wir doch nur mal in die Welt zu einigen Spitzenpolitikern; da wäre in den USA, Brasilien, Russland, Belarus, Türkei etc. einiges zu verbessern, wenn es nicht den Egoismus gäbe, ob nun materiell oder machtmäßig... und wo das wohl herkommt...
Ich wünsche mir deshalb als Gegenpol eine nicht-egoistische KI eben gerade ohne solche Emotionen.

[NaWennDuMeinst]

Tja, einige sehen KI eher als böse Bedrohung, andere eher als interessante Chance...

Ich sehe das eigentlich ganz neutral, weder als Bedrohung, noch als Chance.
Ich glaube nur einfach, dass die Vorstellung, man müsse einfach nur hier ein Programm schreiben und dort eine Hardware bauen um eine Intelligenz ähnlich die des Menschen zu schaffen, falsch ist.
Und das glaube ich deshalb, weil ich denke, dass unser Gehirn, bzw das menschliche Denken nicht so funktioniert wie Computer funktionieren.
Ein Computer kann menschliches Denken nicht nachbilden, weil er ganz anders funktioniert, weil er von der Art her etwas ganz anderes ist.
Um das zu erreichen, was sich KI-Forscher erträumen, ist ein ganz anderer Ansatz nötig. Einer den wir bisher noch gar nicht kennen.

[NaWennDuMeinst]

Ich wünsche mir deshalb als Gegenpol eine nicht-egoistische KI eben gerade ohne solche Emotionen.

Wenn es das Ziel ist ein System zu schaffen, das die Leistungsfähigkeit des Menschen erreichen soll, dann gehören - meiner Auffassung nach - Emotionen zwingend dazu.
Und ich glaube nicht, dass man die einen Emotionen ohne die anderen haben kann.
Das bedeutet es eben auch Mensch (also ein fühlendes Wesen) zu sein: Damit umgehen lernen.

[Alethos]

Ich nehme einen Stein.
Ich werfe den Stein in den See.
Der Stein löst bei seinem Auftreffen auf der Wasseroberfläche Wellen aus.
Diese Wellen werden vom Ufer reflektiert, treffen wieder auf den Stein und der Stein schwingt dabei.
Nach dem was Du behauptest hat der Stein nun das Ufer detektiert oder "erkannt".
Das anzunehmen halte ich für ziemlich gewagt. Da werden dem Stein recht umfangreiche Fähigkeiten zugesprochen.

Es geht hierbei nicht darum, dass mit dem Stein oder dem Radargerät etwas passiert. Sondern es geht mir um Deine Bewertung des Vorgangs.
Nur weil da irgendwas schwingt haben wir es noch lange nicht mit irgendeinem "Erkennen" zu tun.

Nehmen wir der Einfachheit halber das Wort "detektieren". Es gibt Detektoren, man muss sie von Detektiven unterscheiden. Ein Detektor detektiert, das ist seine Funktion. Ein Sensor ist ein Messfühler, seine Funktion ist es zu fühlen.

Hier sehen wir den Unterschied zwischen blossen interferierenden Signalen von bspw. ins Wasser fallenden Steinen und am Ufer auftreffenden Wasserwellen und Gerätschaften, deren Funktion es ist, diese Signale zu bearbeiten. Das tun nämlich Thermostaten, Sensoren und Radare: Sie funktionieren mit einem bestimmten Zweck, nämlich Signale abzubilden, weil sie so konstruiert wurden. Das macht ja die Künstlichkeit eines solchen Apparates im Gegensatz zum einfachen Kieselstein am Ufer aus, dass da Intelligenz in das Konstrukt hineingearbeitet wurde.
Das bedeutet ja nun nicht, dass das Konstrukt Intelligenz hat, aber es tut etwas nach dem Muster einer Funktion, die intelligent genannt werden muss. Es brauchte Intelligenz zur Konstruktion dieser Apparate und darum unterscheiden sie sich durch ihre Funktion von allen anderen leblosen Dingen.

Nun stelle man sich vor, dass es Geräte gäbe, deren Funktion es ist zu lernen und sich weiterzuentwickeln. Ab welchem Punkt in ihrer Entwicklung müssten wir von ihnen sagen, dass sie intelligent sind? Diese Frage stellt sich ja nicht grundsätzlich entlang der Grenze zwischen Lebendigem und Nichtlebendigem, sondern - wie Burkhart schon sagte - gibt es Abstufungen von Intelligenz bereits bei Lebewesen. Ist eine Pflanze intelligent? Ist eine Biene intelligent? Ist eine Amöbe intelligent oder dann doch ein Eichhörnchen, oder doch der Floh auf dem Eichhörnchen? Dass Intelligenz etwas in Systemen Emergierendes ist, würden wir beide wohl unterzeichnen, vermute ich einmal. Und ich vermute weiter, dass wir bei höherer Komplexität eines Lebewesens, bei höherer Komplexität der Probleme, die dieses System löst, eine höhere Intelligenz notieren würden.
Nun ist also Intelligenz ein Phänomen, das primär mit System-Komplexität zu tun hat, mit funktionaler Komplexität, und nicht so sehr mit dem Vorhandensein eines Stoffwechsels: Ist ein Bakterium intelligent? Wenn du das bejahst, wer wohnt denn im Bakterium, um eine Denkfigur von Jörn zu verwenden? Wer fühlt da durch die Fühler des Einzellers? Wer bedient die Flagellen?

Ich sage: heutige Computer sind weniger intelligent als Bakterien, aber sie sind nicht intelligenzlos überhaupt. Selbst, wenn man annehmen wollte, dass sie gänzlich intelligenlos sind, ist denkbar, dass sie einmal minimal-intelligent sein werden und darauf aufbauend sich weiterentwickeln.

[Jörn Budesheim]

Das Intelligenz an einen biologischen Körper gebunden ist, das ist ja kein Geheimnis. Also ist es naheliegend, in dieser Richtung weiter zu forschen und zu experimentieren. Dann jedoch stellen sich ganz andere, nämlich ziemlich gravierende ethische Fragen. Darf man mit solchen Experimenten, falls es tatsächlich jemand versucht, leidensfähige Kreaturen in die Welt setzen - so auf Trial-and-Error?

Und nebenbei: warum will man das tun? Wenn man auf biologischem Wege bewusste Geschöpfe schaffen kann, dann wird man ihnen ja wohl auch Rechte einräumen müssen.

[NaWennDuMeinst]

Nun stelle man sich vor, dass es Geräte gäbe, deren Funktion es ist zu lernen und sich weiterzuentwickeln. Ab welchem Punkt in ihrer Entwicklung müssten wir von ihnen sagen, dass sie intelligent sind?

Ach, Alethos. Das hängt eben davon ab, was Du unter "Intelligenz" verstehen willst. Ist das bloße Befolgen von Logikregeln nach Anleitung schon "Intelligenz"?
Dann ist auch Dein Smartphone intelligent.
Aber mir ist das zu wenig. Einem Roboter Scripte einzuprogrammieren, die ihm im Detail alles vorgeben (und ehrlich, mehr ist es nicht, ohne den Menschen macht die Maschine einfach gar nichts) hat für mich nichts mit Intelligenz zu tun so wie ich sie verstehe. Also ausser in dem Sinne, dass Derjenige der diese Scripte schreibt intelligent ist.
Man ist in der KI-Forschung vor einigen Jahrzehnten sehr euphorisch gewesen, hat geglaubt der künstliche Mensch wäre in wenigen Jahren Realität. Stück für Stück hat man diese allzu optimistische Vorhersage zurückziehen müssen.
Und man hat dabei eben auch Schritt für Schritt den Intelligenzbegriff reduziert um wenigstens IRGENDWELCHE Erfolge vermelden zu können.
Nun schwirrt in den Medien ein reduzierter Intelligenz- (und Denk-)Begriff herum, der vielen Menschen das Gefühl gibt die Computer würden immer menschenähnlicher. Aber vieles davon ist einfach simpler Budenzauber. Damit kann man Menschen beeindrucken, die von Computern keine Ahnung haben und die einen sabbelnden Siri-Bot schon für intelligent halten.
Mich beindruckt das alles nicht. Jedenfalls nicht wenn man das ursprüngliche Ziel noch vor Augen hat. Was das angeht hat sich nämlich so gut wie nichts getan.
Ich reduziere nicht meinen Intelligenzbegriff oder meinen Begriff vom Denken nur damit er auf Maschinen anwendbar wird. Umgekehrt wird ein Schuh draus. Die Leistungen der KI müssen sich an bestehender Intelligenz messen.

Trotzdem sind auch kleine Schritte Schritte. Und ich freue mich auch über diese kleinen Schritte. Das ist schon toll, dass ich heute mein Smartphone fragen kann wo die nächste Tanke ist.
Aber ich verwechsle die Apparatelogik nicht mit "denkenden Wesen".
Ich wünschte Computer könnten denken. Dann wäre meine tägliche Arbeit leichter.

[Jörn Budesheim]

Durch was soll eine Maschine motiviert sein, etwas zu tun, irgendetwas beliebiges? Warum sollte eine Maschine sich weiterentwickeln wollen? Gefühle öffnen uns zur Welt, sie sind Wert Wahrnehmungen, aber sie haben vor allen auch eine motivierende Kraft.

[Alethos]

Nun stelle man sich vor, dass es Geräte gäbe, deren Funktion es ist zu lernen und sich weiterzuentwickeln. Ab welchem Punkt in ihrer Entwicklung müssten wir von ihnen sagen, dass sie intelligent sind?

Ach, Alethos. Das hängt eben davon ab, was Du unter "Intelligenz" verstehen willst. Ist das bloße Befolgen von Logikregeln nach Anleitung schon "Intelligenz"?
Dann ist auch Dein Smartphone intelligent.
Aber mir ist das zu wenig.

Du bist wortreich einer Antwort ausgewichen, NWDM. Es ist schwierig zu sagen, was Intelligenz eigentlich ist und wir sollten das auch eingestehen. Aber, indem
wir sagen, was Intelligenz nicht ist (blosse Recheniperationen in Computern sind nich intelligent), können wir nicht positiv beschreiben, was Intelligenz ist.
Ich bin auch der Meinung, dass mein Iphone nicht intelligent ist, auch wenn es Smartphone heisst, so ist es nirgends "smart". Smart waren und sind deren Entwickler.

Aber bei Lebewesen würden wir ja nicht einfach unbekümmert sagen, dass sie alle gleich intelligent sind, weil wir doch Abstufungen vorfinden. Diese sind real und sie hängen offenbar mit der Komplexität dieser lebendigen Systeme zusammen.

[NaWennDuMeinst]

Durch was soll eine Maschine motiviert sein, etwas zu tun, irgendetwas beliebiges? Warum sollte eine Maschine sich weiterentwickeln wollen?

Naja, genau das ist es eben. Computer wollen nichts. Sie haben auch keine Ziele. Wir geben ihnen ihre Ziele vor, und schreiben Programme, die die Zielerfüllung mehr oder weniger gut automatisieren.
Und es ist einfach falsch anzunehmen, dass der Mensch genauso funktioniert. Auch wenn unsere Gene uns bestimmte Zielsetzungen vorgeben, so haben wir doch sowas wie einen freien Willen. Wir haben überhaupt einen Willen, das heißt wir können uns selbst Ziele setzen. Zum Beispiel das Ziel im Weltraum zu existieren. Dafür sind wir biologisch gar nicht vorgesehen. Da gehören wir gar nicht hin (rein von unserer Physis her betrachtet). Aber der Mensch blickt halt hinauf, und kommt plötzlich auf die fast schon absurde Idee, dass er genau da hin will.
Wir setzen uns Ziele, die in unserer ursprünglichen "Programmierung" (wenn man das so nennen will) gar nicht vorgesehen oder vorhanden sind.

Ich kenne zum Beispiel keine Maschine die plötzlich und unvermittelt auf den Gedanken kommen würde unabhängig von ihrem "Schöpfer" zu sein. So etwas gibt es nicht. Ausser in der Science-Fiction.

Gefühle öffnen uns zur Welt, sie sind Wert Wahrnehmungen, aber sie haben vor allen auch eine motivierende Kraft.

Ja, richtig. Der Mensch braucht nicht zwingend einen "äußeren Impuls". Er kann seine Motivation auch aus seinem Inneren (aus sich selbst) ziehen.
Wir motivieren uns selbst (auch gegenseitig). Keine mir bekannte Maschine kann das.

[Alethos]

Das Intelligenz an einen biologischen Körper gebunden ist, das ist ja kein Geheimnis. Also ist es naheliegend, in dieser Richtung weiter zu forschen und zu experimentieren.

Aber du siehst schon, dass bereits aufgrund dieser begrifflichen Prämisse künstliche Intelligenz unmöglich ist?

Intelligenz bedingt biologischen Körper. Nicht-biologische Körper sind daher unmöglich intelligent. Es ist kategorisch ausgeschlossen. Dann müssen wir auch nicht mehr reden. Alles gesagt, weil definitorisch bestimmt.

[NaWennDuMeinst]

Aber bei Lebewesen würden wir ja nicht einfach unbekümmert sagen, dass sie alle gleich intelligent sind, weil wir doch Abstufungen vorfinden. Diese sind real und sie hängen offenbar mit der Komplexität dieser lebendigen Systeme zusammen.

Wenn man Lebewesen miteinander vergleicht macht es Sinn von einem graduellen Unterschied in der Intelligenz zu sprechen. Niedere Lebewesen sind einfach nicht so weit entwickelt.
Beim Vergleich zwischen einem biologischen Lebewesen und Maschinen macht das aber keinen Sinn, weil ich nicht glaube dass hier nur ein gradueller Unterschied besteht, sondern auch ein prinzipieller.
Lebewesen und Maschinen funktionieren einfach auf ganz andere Weise.

[Alethos]

Durch was soll eine Maschine motiviert sein, etwas zu tun, irgendetwas beliebiges? Warum sollte eine Maschine sich weiterentwickeln wollen? Gefühle öffnen uns zur Welt, sie sind Wert Wahrnehmungen, aber sie haben vor allen auch eine motivierende Kraft.

Wir sollten das Bild eines leblosen Rechenkastens ablegen, wenn wir hierauf wirklich eine Antwort finden wollen. Falls es einen Grund geben sollte für Maschinen, etwas zu wollen, müsste klarerweise für sie etwas auf dem Spiel stehen. Das tut es bei heutigen Apparaten einfach nicht. Punkt.

Die künstlichen Organismen (für dich terminologisch wahrscheinlich eine paradoxe Begriffsbildung) müssten so etwsd wie Subjektivität haben und Werte. Ihnen muss buchstäblich etwas an den Dingen liegen, wenn sie etwas wollen sollen können.

[Alethos]

Aber bei Lebewesen würden wir ja nicht einfach unbekümmert sagen, dass sie alle gleich intelligent sind, weil wir doch Abstufungen vorfinden. Diese sind real und sie hängen offenbar mit der Komplexität dieser lebendigen Systeme zusammen.

Wenn man Lebewesen miteinander vergleicht macht es Sinn von einem graduellen Unterschied in der Intelligenz zu sprechen. Niedere Lebewesen sind einfach nicht so weit entwickelt.
Beim Vergleich zwischen einem biologischen Lebewesen und Maschinen macht das aber keinen Sinn, weil ich nicht glaube dass hier nur ein gradueller Unterschied besteht, sondern auch ein prinzipieller.
Lebewesen und Maschinen funktionieren einfach auf ganz andere Weise.

Das tun sie, weshalb wir eine kategorische Grenze zwischen Lebewesen und Nichtlebewesen kennen. Es ist unbestreitbar, dass Maschinen und Lebewesen ganz anders funktionieren. Das ist eine reale Grenze, eine Begriffsgrenze. Das führt aber nicht zwangsläufig dazu, dass wir den Intelligenzbegriff nur auf Lebewesen anwenden müssen resp. müssten wir die Begriffe an eine allfällig neue Realität anpassen. Wenn es denn bspw. so sein sollte, dass Maschinen (besser: künstliche Organismen) Intelligenz nach Maßgabe eines neutralen Intelligenzsbegriffs ausbilden, dann werden wir für diese Realität neue Begriffe finden müssen.

Ich störe mich am Begriffskonservatismus, wenn er so ausgelegt wird, dass Realität sich an die Begriffe zu halten habe, wo sie es doch ist, die uns Begriffe gibt.

[NaWennDuMeinst]

Durch was soll eine Maschine motiviert sein, etwas zu tun, irgendetwas beliebiges? Warum sollte eine Maschine sich weiterentwickeln wollen? Gefühle öffnen uns zur Welt, sie sind Wert Wahrnehmungen, aber sie haben vor allen auch eine motivierende Kraft.

Wir sollten das Bild eines leblosen Rechenkastens ablegen

Nein. Warum denn? Wieso sollen wir einen offensichtlichen Unterscheid zwischen Lebewesen und Maschinen leugnen?
Maschinen sind tot. Lebewesen leben. Das ist Fakt. Und wieso soll dieser wichtige Unterschied hier, bei der Frage danach ob leblose Apparate jemals denken können, keine Rolle spielen?

Die künstlichen Organismen (für dich terminologisch wahrscheinlich eine paradoxe Begriffsbildung) müssten so etwsd wie Subjektivität haben und Werte. Ihnen muss buchstäblich etwas an den Dingen liegen, wenn sie etwas wollen sollen können.

Über das was nötig ist, damit sowas wie ein künstliches Lebewesen existieren kann, können wir gerne spekulieren.
Selbstmotivation wäre einer der vielen Punkte.
Emotionen spielen da eine Rolle.
Jörn hat auch erwähnt (und ich finde das auch an anderer Stelle), dass ein Körper wichtig ist. In wie weit der Körper lebendig sein muss, ist auch eine wichtige Frage. Immerhin ist auch die Erkenntnis dass wir sterblich sind ein wichtiger Motivationsfaktor. Unser Körper spielt auch im Zusammenhang mit Emotionen eine große Rolle. Viele Emotionen - wie zum Beispiel Spaß - stehen im Zusammenhang mit dem Körper.
Ach, es gibt so viele Dinge die erfüll sein müssen. Die Liste ist fast endlos.

[Alethos]

Kann es künstliches Leben geben? Das ist wohl die zugrundeliegende Frage.

[NaWennDuMeinst]

Das führt aber nicht zwangsläufig dazu, dass wir den Intelligenzbegriff nur auf Lebewesen anwenden müssen

Doch. Wenn davon ausgegangen wird, dass "lebendig sein" eine notwendige Voraussetzung für "intelligent sein" ist, dann schon.
Du kannst natürlich "Intelligenz" anders definieren (es gibt ja keine einheitliche Definition, weil wir selbst nicht in allen Einzelheiten wissen was Intelligenz ist und wie sie zustande kommt).
Ob diese Definition dann sinnvoll ist, ist dann nochmal eine andere Frage.

[NaWennDuMeinst]

Kann es künstliches Leben geben? Das ist wohl die zugrundeliegende Frage.

Es gibt eine - allerdings nicht unumstrittene - Definition von Leben. Aus der Wiki:

- Energie- und Stoffwechsel und damit Wechselwirkung der Lebewesen mit ihrer Umwelt.
- Organisiertheit und Selbstregulation (Homöostase).
- Reizbarkeit, das heißt Lebewesen sind fähig, auf chemische oder physikalische Änderungen in ihrer Umwelt zu reagieren.
- Fortpflanzung, das heißt Lebewesen sind zur Reproduktion fähig.
- Vererbung, das heißt Lebewesen können Informationen (Erbgut) an ihre Nachkommen übermitteln.
- Wachstum und damit die Fähigkeit zur Entwicklung.[5]

Theoretisch ist es schon vorstellbar, dass wir - zum Beispiel auf dem Wege der Gentechnik - neue Arten im Labor erschaffen, die diese Kriterien dann erfüllen.
Das wäre dann etwas auf künstlichem Wege erschaffenes Lebendiges.
Aber: Dieses neue Leben ginge hier nur aus bereits vorher existierendem Lebendigen hervor.

Wie es gelingen soll alla Frankenstein sozusagen eine zuerst tote Hülle zu schaffen, der dann eine "Seele" eingehaucht wird, weiß ich auch nicht.
Frag mal Gott. Der kennt sich angeblich mit sowas aus.

[Alethos]

Das führt aber nicht zwangsläufig dazu, dass wir den Intelligenzbegriff nur auf Lebewesen anwenden müssen

Doch. Wenn davon ausgegangen wird, dass "lebendig sein" eine notwendige Voraussetzung für "intelligent sein" ist, dann schon.
Du kannst natürlich "Intelligenz" anders definieren (es gibt ja keine einheitliche Definition, weil wir selbst nicht in allen Einzelheiten wissen was Intelligenz ist und wie sie zustande kommt).
Ob diese Definition dann sinnvoll ist, ist dann nochmal eine andere Frage.

Dann sollten wir einmal eine Definition wagen. Es gibt ja unzählige, eine davon lautet: "Intelligenz ist die Fähigkeit zur Problemlösung in einer bestimmten Zeit."

Passt dir diese Definition?

[Alethos]

Das führt aber nicht zwangsläufig dazu, dass wir den Intelligenzbegriff nur auf Lebewesen anwenden müssen

Doch. Wenn davon ausgegangen wird, dass "lebendig sein" eine notwendige Voraussetzung für "intelligent sein" ist, dann schon.

Das ist der klassische Schwanzbeisser, besser bekannt als zirkuläres Argument.