Wissenschaftler: Computer werden niemals denken können

Im Zettelkasten können Zitate und Begriffe hinterlegt werden, auf die du andere Mitglieder des Forums aufmerksam machen möchtest.
Benutzeravatar
Alethos
Beiträge: 3208
Registriert: Do 17. Aug 2017, 15:35
Wohnort: Schweiz

So 5. Jan 2020, 18:41

Da kommen wir schon zusammen, denn ich bestreite ja nicht, dass Denken in biologischen Körpern vorkommt oder in dieser Form, in der es vorkommt, an biologische Körper gebunden ist.

Ich bestreite nur, dass es ausschliesslich diese Form haben muss. Und da, ja, kommen wir nicht zusammen :)



-------------------------------
Stets freundlich bleiben.

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

So 5. Jan 2020, 19:34

So let's agree to differ :)



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 10:25

Vielleicht können Computer nicht "denken" im biologischen bzw. menschlichen Sinne, aber sie werden ähnlich intelligent sein können wie Menschen, z.B. als Roboter.



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 10:58

Hallo Burkhart! Herzlich willkommen im Forum!



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 11:31

Dank dir, Jörn.
By the way: KI ist mein größtes Steckenpferd.

Viele Grüße
Burkart
(der ohne h ;) )



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 11:36

Hier hängt natürlich alles davon ab, wie man Intelligenz sinnvollerweise verstehen sollte. Ich für meinen Teil würde nicht sagen, dass ein Aktenordner oder ein Telefonbuch intelligent sind, ebensowenig ein Hammer. Jetzt fragt sich, inwiefern Computer oder was auf sie folgen mag, etwas anderes sind als Werkzeuge? Denn ich würde nicht sagen, dass das Werkzeug intelligent ist, sondern der Werkzeugmacher.



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 11:56

Natürlich sind ein Aktenordner oder Telefonbuch o.ä. nicht intelligent, auch kein "Smart"-phone.

Ja, Computer kann man als Werkzeuge ansehen (wenn mir der Begriff auch vielleicht etwas zu handwerklich ist, aber ok). Das heißt aber nicht, dass ein Werkzeug deshalb nicht intelligent sein kann.
Klar, der grundlegende Werkzeugmacher muss auf jeden Fall intelligent sein, aber das ist ja kein Widerspruch.
So werden Kinder hoffentlich intelligent durch ihre (hoffentlich ebenfalls) intelligenten Eltern.

Inteliigenz ist für mich ungefähr das Erreichen können von Zielen.



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 12:53

Ein Werkzeug ist das, was es ist durch den, der es gemacht hat. Der Werkzeughersteller ist derjenige, der die generellen Ziele gesetzt hat. Werkzeuge, anders als Menschen, sind nicht das, wozu sie sich selbst machen! Werkzeuge sind nicht für sich, sondern für uns.



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 13:06

Ein Werkzeug ist das, was es ist durch den, der es gemacht hat. Der Werkzeughersteller ist derjenige, der die generellen Ziele gesetzt hat.
Einverstanden, ebenfalls mit "Werkzeuge sind nicht für sich, sondern für uns."
Werkzeuge, anders als Menschen, sind nicht das, wozu sie sich selbst machen!
Mal ehrlich: Sind Menschen nicht auch oft Werkzeuge von anderen Menschen? Z.B. in der Firma, auch in unserem kapitalistischen System insgesamt usw.
Somit kann der Mensch nur bedingt das machen, was er selbst möchte.
Und auch das ist nur geprägt durch unsere Gene, denen wir nicht völlig entkommen können.
Entsprechend sollte eine (allgemeine, starke) KI eine Basispogrammierung bekommen, die unseren Genen und generellen Zielen (Bedürfnissen u.ä.) entsprechen, um sich darauf aufbauend lernend zu entwickeln.



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 13:53

Daraus, dass Menschen manchmal behandelt werden wie Werkzeuge, folgt nicht, dass sie ihrer Art nach welche sind. Deswegen ist es ja auch moralisch verwerflich, Menschen generell wie Werkzeuge zu behandeln und nicht für einen Wert/Zweck in sich selbst.

Zu den DNA: Es gibt ein wunderbares metaphorisches Bild von Kant: wir sollen uns einen Vogel vorstellen, der beglückt von seinen Fähigkeiten zu fliegen, versucht den "Einschränkungen der Luft" zu entkommen. Man kann sich leicht vorstellen, wie diese Geschichte ausgeht. Das, was diesem Vogel als Einschränkung vorkommt, ist dasjenige was überhaupt erst möglich macht, dass er fliegt! Und ebenso verhält es sich mit unseren materiellen Bedingungen z.b. der DNA, die du erwähnt hast. Sie sind die Bedingungen dafür, dass wir überhaupt frei sein können, auch wenn sie natürlich einen gewissen Rahmen vorgeben. Wenn man sich jedoch die Geschichte der Menschheit anschaut und auch die Menschen der heutigen Zeit, sieht man leicht wie vielfältig man diese Möglichkeiten nutzen kann. Es ist nahezu unglaublich, wie viele verschiedene Arten und Weisen es gibt, Mensch zu sein. (Manchmal ist es auch sehr bedrückend, wenn man sich vergegenwärtigt, dass auch Donald Trump eine dieser Möglichkeiten ist.)

Noch mal zu dem Thema: Damit folgt die nächste Frage: wenn eine Maschine/ein Roboter eine DNA hat, ist es dann noch eine Maschine/ein Roboter? Dass es möglich ist, dass auf diesem Planeten Intelligenz entsteht, steht ja nicht in Frage, schließlich sind wir selbst in gewissen Maßen intelligent. Und dass wir intelligente Wesen (er-)zeugen können, steht auch nicht in Frage, denn schließlich Pflanzen wir uns fort. Infrage steht meines Erachtens, dass die Dinger, mit denen wir im Moment arbeiten, in absehbarer Zeit auf derselben Basis, wie sie im Moment gebaut werden, intelligent werden können.

Wenn wir irgendwann in ferner Zukunft biologische Entitäten künstlich erzeugen können (was vermutlich eine logische Möglichkeit ist) und nicht auf natürliche Art und Weise, dann stehen wir vor anderen Fragen.



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 14:43

Daraus, dass Menschen manchmal behandelt werden wie Werkzeuge, folgt nicht, dass sie ihrer Art nach welche sind.
Sicherlich nicht, aber auch nicht das Gegenteil. Meine Urgroßmutter war noch Dienstmagd für einen Herren, war sie damit nicht zumindest so etwas wie ein Werkzeug für den Herren? Freiheit ist immer relativ; auch einem Werkzeug kann man gewisse Freiheiten zugestehen, solange es seinen Dienst erfüllt.
Deswegen ist es ja auch moralisch verwerflich, Menschen generell die Werkzeuge zu behandeln und nicht für einen Wert/Zweck in sich selbst.
Vielleicht wir man das eines Tages von dann inzwischen hinreichend selbständiger KI/Roboter auch sagen, siehe z.B. den Zweihundertjährigen von I. Asimov.

However, fangen wir erstmal mit einer KI als klares Werkzeug an, bevor sie ggf. weitere Rechte und Freiheiten bekommen soll.

Richtig, die DNA stellt den Rahmen für uns dar, entsprechend wie es eine Basisprogrammierung für eine KI sein kann. Wie die KI sie später nutzt, wenn wir ihr genügend Freiräume lassen, kann ähnlich vielfältig wie bei Menschen sein - hoffentlich ohne einen Trump dabei :)
Aber da mache ich mir keine so großen Sorgen, weil die KI als Computer bzw. Roboter keine biologisch-menschlichen Gefühle wie ein Mensch hat: Es besteht für sie keine Notwendigkeit so egoistisch wie ein Trump... äh... Mensch zu sein, weil sie keine Bedürfnisse wie er hat.

Meine Idee ist nicht, einer Maschine bzw. Roboter eine DNA zu verpassen, sondern "nur" eine reale Programmierung in irgendeiner Programmiersprache u.ä. Auch die neuronalen Netze sind für mich primär kein Vorbild, sondern symbolische Programmierung (siehe ggf. hier).



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 14:58

Eine Intelligenz ohne Gefühle, das kann es meines Erachtens nicht geben. Ohne Gefühle, wissen wir nicht, was wichtig ist, was zählt, was von Belang ist... Wenn es für die fraglichen Maschinen um nichts geht, dann wird es auch keine Intelligenz geben.

Dazu gibt es ein lustiges Gedankenexperiment: ein Roboter steht in einer brennenden Scheune, die gleich zusammenfallen wird und ihn unter sich begraben, was sein Ende sein wäre. Der Roboter berechnet gerade, ob er die Scheune verlässt. Aber als er dabei ist, zu berechnen, was sein Verlassen der Scheune für eine Auswirkung auf die Reisepreise in China hat, bricht das Ding zusammen. Das liegt daran, dass der Maschine die Gefühle fehlen, die er sagen, was von Bedeutung ist. Wenn das fehlt, ist alles gleich gültig...

Ein Forscher, im Moment fällt mir sein Name nicht ein, hat das mal auf den Punkt gebracht: solange die Maschinen keinen Sex haben können, wird es auch nichts mit Geist und Intelligenz! :) Und wenn sie erstmal Sex haben können, das füge ich hinzu, dann können wir auch nicht mehr von Maschinen sprechen.



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 15:20

Was ist denn für dich Intelligenz? Ich habe sie ja schon umrissen mit "Inteliigenz ist für mich ungefähr das Erreichen können von Zielen."

Wichtig zum Erreichen von Zielen sind Prioritäten (aber nicht unbedingt als Gefühle), Wissen um Wege zu ihrer Erreichung, Lernen dieses Wissens u.ä.
Somit geht es für die Maschinen ja eben um was, eben um das Erreichen ihrer Ziele.

Ich orientiere mich da in erster Näherung an Asimovs Robotergesetzen, die kennst du, oder?
In Kurzform mit den Prios: 1. Pro Mensch, 2. Befehle gehorchen, 3. Selbstschutz

Gerade Intelligenz kann man intellektuell gut erfassen, es hat ja auch nicht zufällig den gleichen lateinischen Wortstamm (laut wikipedia: "intellegere „erkennen“, „einsehen“; „verstehen“; wörtlich „wählen zwischen …“ von lat. inter „zwischen“ und legere „lesen, wählen“" gegenüber Intellektuell als "verstandesgemäß, geistig" laut Duden). Dazu sind (menschliche, biologische) Gefühle nicht erforderlich.



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 15:28

Warum sollte etwas, dem es um nichts geht, weil es keine Gefühle hat, überhaupt Ziele erreichen wollen, hier müsste schließlich per Definition alles egal sein!



Ohne Wahrheit keine Freiheit

Benutzeravatar
Burkart
Beiträge: 90
Registriert: Sa 11. Jul 2020, 09:59
Wohnort: Norderstedt

Sa 11. Jul 2020, 15:35

Ich weiß nicht, ob du dich mit Programmieren etwas auskennst.
Ein Programm hat doch auch keine Gefühle und arbeitet trotzdem etwas ab.
Dies kann man auch gut in Zielen darstellen.

Insofern trifft dies nicht zu: "Warum sollte etwas, dem es um nichts geht, weil es keine Gefühle hat, überhaupt Ziele erreichen wollen, hier müsste schließlich per Definition alles egal sein!"
"Egal" bezieht sich auf Gefühle, nicht auf eine Zielerreichung.



Allgemeine, starke KI wird kommen - die Frage ist nur, wann... und was man darunter genau versteht...

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 15:43

Burkart hat geschrieben :
Sa 11. Jul 2020, 15:20
Was ist denn für dich Intelligenz? Ich habe sie ja schon umrissen mit "Inteliigenz ist für mich ungefähr das Erreichen können von Zielen."
Ich würde es so ähnlich verstehen. Intelligenz ist die Fähigkeit, ein Ziel zu erreichen, bzw Probleme zu lösen. Und weil wir endlich sind, muss das in einem vernünftigen (den Problem angemessenen) Zeitrahmen geschehen. Es hat keinen Sinn, wenn ich im Schach zwar den richtigen Zug finde, dafür aber 3 Jahre brauche, werde ich nur eine Stunde Bedenkzeit zur Verfügung habe :)

Hier ergibt sich eben das erste Problem, wie oben schon angedeutet: Welche Art von Problemen sollte eine Maschine haben?



Ohne Wahrheit keine Freiheit

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 15:45

Burkart hat geschrieben :
Sa 11. Jul 2020, 15:35
Dies kann man auch gut in Zielen darstellen.
Das ist aber nicht das Ziel der Maschine, sondern das Ziel der Maschinenbenutzer. Ein Hammer hat ebenso wenig ein Ziel wie Photoshop :)



Ohne Wahrheit keine Freiheit

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 15:54

Burkart hat geschrieben :
Sa 11. Jul 2020, 15:35
Ich weiß nicht, ob du dich mit Programmieren etwas auskennst.
Ein Programm hat doch auch keine Gefühle und arbeitet trotzdem etwas ab.
Nein, ich kenne mich damit praktisch gar nicht aus. Ich habe vor Jahren mal ein wenig ActionScript gekonnt, das ist eine Sprache, die es im Moment (glaube ich) gar nicht mehr gibt. Damit konnte man das Animations-Programm Flash steuern.

Das Programm war natürlich ziemlich stupide, das merkte man schon daran, dass nicht mal die allerkleinsten Fehler verziehen wurden, einfach deshalb, weil das Programm zu keinem Moment wusste, worum es jeweils eigentlich ging :)



Ohne Wahrheit keine Freiheit

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 16:01

Probleme und Ziele sind stets etwas normatives. In einfachen, aber grundlegenden Fällen geht es darum, Freude anzustreben und Leid zu vermeiden. Diese Gefühle sind vermutlich so eine Art Eingang in die Welt des Normativen. Ohne so etwas kann ein System keine eigenen Ziele haben.



Ohne Wahrheit keine Freiheit

Benutzeravatar
Jörn Budesheim
Beiträge: 13828
Registriert: Mi 19. Jul 2017, 09:24
Wohnort: Kassel
Kontaktdaten:

Sa 11. Jul 2020, 17:25

Das Zitat mit dem Sex gefällt mir so gut, dass ich es andauernd bringe, ich habe nämlich gerade mal hier im Forum nach dem Namen gesucht :) Dabei habe ich festgestellt, dass ich das Zitat schon gut ein halbes Dutzend Mal gebracht habe. Aber den Namen des Autoren habe ich bisher nicht erwähnt. Sein Name ist Alun Anderson, er hat für das Magazins News Scientist gearbeitet und ist Naturwissenschaftler (Biologe).

Das Zitat ist aus dem Aufsatz "Ohne Körper wäre das Gehirn geistlos".

Am Ende des kurzen Aufsatzes fragt er: "Wenn der Körper und seine Interaktion mit dem Gehirn und der Planung von Handlungen so entscheidend wichtig für den menschlichen Geist ist, wie stehen dann die Chancen, innerhalb des Computers einen intelligenten entkörperlichten [= ohne biologische Grundlage] Geist zu schaffen? [..] Mit anderen Worten wäre es möglich, dass Computer erst dann etwas sinnvolles zustande bringen wenn sie Sex haben können."

Ein Jugendfreund von mir, der später Professor der Informatik werden sollte, meinte seinerzeit, dass Computer erst dann intelligent werden können, wenn sie fähig sind, ein eigenes Leben zu führen! Das ist zwar weniger plastisch formuliert, aber geht ungefähr in die ähnliche Richtung.



Ohne Wahrheit keine Freiheit

Antworten