Künstliche Intelligenz

[Jörn Budesheim]

Es gibt ein Gedankenexperiment von John Searle, zumindest glaube ich, dass es von ihm stammt, mit dem Roboter in der Scheune.

Stell dir vor, du bist ein Roboter, der in einer Scheune "lebt". Du hast einen Computer in deinem Kopf, der dir "sagt", was du tun sollst. (Das gesamte mentalistische Vokabular, was hier zum Einsatz kommt, ist natürlich rein metaphorisch. Ab jetzt verzichte ich auf die Anführungszeichen.) Du hast auch Sensoren, die dir Informationen über deine Umgebung geben. Eines Tages brennt die Scheune. Du bemerkst den Rauch und die Hitze und fragst dich, was du tun sollst. Es gibt zwei Möglichkeiten: Entweder du versuchst, aus der Scheune zu fliehen, oder du bleibst, wo du bist. Du beginnst, die Vor- und Nachteile beider Möglichkeiten abzuwägen. Während du das tust, stürzt das Dach über dir ein und erschlägt dich.

Searle argumentiert, dass der Roboter in diesem Szenario keine echte Intentionalität hat, d.h. er hat keine echten Ziele, Wünsche oder Überzeugungen. Er befolgt nur die Anweisungen seines Computers, ohne zu verstehen, was sie bedeuten. Er hat auch kein echtes Bewusstsein, d.h. er hat keine subjektiven Erfahrungen oder Gefühle. Er ist nur eine Maschine, die Daten verarbeitet.

Roboter können vielleicht das haben, was Searle geliehene Intentionalität nennt, aber sie haben keine intrinsische Intentionalität, die daran gebunden ist, dass man einen lebendigen Körper hat. Ich denke, das ist sowohl eine ontologische Gegebenheit als auch eine begriffliche Wahrheit.

[Jörn Budesheim]

Interessant finde ich erstmal, wie man ein Lebewesen definiert, dazu habe ich 7 Eigenschaften gefunden: Bewegung, Reizbarkeit, Fortpflanzung, Evolution, Wachstum und Entwicklung sowie Stoff- und Energiewechsel. Davon trifft mE nichts auf einen Computer zu.

Der Biologe und Nobelpreisträger Paul Nurse zählt aus seinem Schulwissen folgendes auf: "Bewegung, Atmung, Reizempfindlichkeit, Wachstum, Reproduktion, Ausscheidung und Nahrungsaufnahme." Er meint, das sei zwar eine akkurate Aufzählung dessen, was lebende Organismen tun, aber es ist keine befriedigende Erklärung dessen, was Leben ist.

Wie auch immer: Das folgende mag implizit in deiner Liste enthalten sein, aber ich möchte es noch mal explizit machen: Lebensformen sind "geschlossene" physische Gebilde, die sich selbst erhalten (Autopoiese). Sie sind von ihrer Umwelt "abgegrenzt", kommunizieren aber mit ihr. Diese Leiblichkeit und Selbstbezogenheit (Sorge) des Lebens schließt Computerprogramme aus dem Bereich des Lebens aus.

Etwas, das man auch hervorheben sollte, wofür mir aber die Sprache fehlt und von dem ich nicht sicher bin, ob es auf deiner Liste steht, ist die außergewöhnliche Chemie, die das Leben ausmacht. Zudem: Alle Lebewesen bestehen aus Zellen. Zellen gehen stets aus Zellen hervor... ist es einmal entstanden, hat Leben immer einen intrinsischen Bezug zu anderem Leben.

[Jörn Budesheim]

Vor 25 Jahren wettete der Neurowissenschaftler Christof Koch mit dem Philosophen David Chalmers, dass er bis 2023 das Rätsel des Bewusstseins lösen könne. Wer hat gewonnen? Natürlich der Philosoph. 😉 Koch ist heute der Ansicht, dass das Bewusstsein zu den Grundbausteinen der Wirklichkeit gehört.

[Timberlake]

Interessant finde ich erstmal, wie man ein Lebewesen definiert, dazu habe ich 7 Eigenschaften gefunden: Bewegung, Reizbarkeit, Fortpflanzung, Evolution, Wachstum und Entwicklung sowie Stoff- und Energiewechsel. Davon trifft mE nichts auf einen Computer zu.

Nun ja .. , dass sich ein computergesteuerter Roboter bewegt , sollte doch wohl außer Frage stehen. Wenn er denn über entsprechende Sensoren verfügt , beispielsweise zur Erkennung einer Kollision wie beim Rasenroboter , so wäre er auch reizbar . Auch verfügt dergleichen vielleicht nicht über einen Stoffwechsel aber ganz sicher über einen Energiewechsel. Sei es nun über eine elektrische Steckdose oder über eine Batterie.
Was allerdings tatsächlich weder auf ein Computer noch auf einen Roboter zutrifft , ist die Fortpflanzung und im Verlauf dessen eine Evolution. Wachstum und Entwicklung würde ich allerdings als Grenzwertig erachten. Wächst und Entwickelt sich doch eine Künstliche Intelligenz mit der ihr zur Verfügung stehenden Datenmenge und nicht zu vergessen mit deren Qualität.

Natürlich nicht im biologischen Sinne.

.. und im welchen Sinne würde ein Roboter anstatt dessen leben ?

Siehe meine vorigen Beiträge.

.... Fortpflanzung und Evolution war übrigens in diesen vorigen Beiträgen kein Thema. Zumindest nicht in derart , dass für Burkart eine Fortpflanzung bei einer "vernünftigen" KI in Frage käme ..

Aber Leben ist halt nicht alles; vernünftige KI auch ohne Fortpflanzung könnte uns schon helfen und eine Menge erreichen.

[Burkart]

Natürlich nicht im biologischen Sinne.

.. und im welchen Sinne würde ein Roboter anstatt dessen leben ?

Interessant finde ich erstmal, wie man ein Lebewesen definiert, dazu habe ich 7 Eigenschaften gefunden: Bewegung, Reizbarkeit, Fortpflanzung, Evolution, Wachstum und Entwicklung sowie Stoff- und Energiewechsel. Davon trifft mE nichts auf einen Computer zu.

Ein Roboter hat keine Innenperspektive und auch nicht die Art und Weise, wie ein Mensch Sinne empfinden kann. Sinnesempfindungen lassen sich teilweise annähernd nachbilden, aber nicht ausreichend genau.

Sicher richtig, solche Roboter gehören in den Reich der Science Fiction, aber eine solche Möglichkeit sollte nicht prinzipiell für die Zukunft ausgeschlossen werden.

Daher würde ich anstatt den Begriff "leben" eher "verfügt über eine Form von Bewusstsein" verwenden, da das künstliche Bewusstsein bereits dazu in der Lage ist, selbsständig Entscheidungen zu treffen und so weit trainiert werden kann, dass auch menschenähnliche Reaktionen oder Gedanken erzeugt werden können, die nicht rational oder logisch erscheinen,

Gut, dann können wir gerne auf dieser Basis weiter über KI und deren Möglichkeiten diskutieren.

denn hier sehe ich noch einen großen Unterschied zwischen dem menschlichen und künstlichen Bewusstsein, dass der Mensch aus vollem Bewusstsein "unlogische" aus individuellen Wertvorstellungen Entscheidungen trifft, die ein Computer oder eine KI so nicht treffen würde.

Und was, wenn die KI auch individuelle Wertvorstelungen hätte?
Entscheidend wäre hierfür vor allem, dass sie "selbst" lernen kann, also nicht (nur) aus vorgelegten Trainingsdaten, sondern z.B. ähnlich wie ein Mensch durch "Erleben" in einer/der komplexen Welt.

[Timberlake]

Es gibt ein Gedankenexperiment von John Searle, zumindest glaube ich, dass es von ihm stammt, mit dem Roboter in der Scheune.

Stell dir vor, du bist ein Roboter, der in einer Scheune "lebt". Du hast einen Computer in deinem Kopf, der dir "sagt", was du tun sollst. (Das gesamte mentalistische Vokabular, was hier zum Einsatz kommt, ist natürlich rein metaphorisch. Ab jetzt verzichte ich auf die Anführungszeichen.) Du hast auch Sensoren, die dir Informationen über deine Umgebung geben. Eines Tages brennt die Scheune. Du bemerkst den Rauch und die Hitze und fragst dich, was du tun sollst. Es gibt zwei Möglichkeiten: Entweder du versuchst, aus der Scheune zu fliehen, oder du bleibst, wo du bist. Du beginnst, die Vor- und Nachteile beider Möglichkeiten abzuwägen. Während du das tust, stürzt das Dach über dir ein und erschlägt dich.

Dieses Szenario erinnert mich doch schon sehr an Platons Höhlengleichnis , nur mit dem Unterschied, dass die Scheune nicht brennt ... "noch nicht" ..



... vielleicht braucht es ja (natürlich rein metaphorisch).. erst diesen Brand , um sich aus den Fesseln dieser "Scheune" zu befreien. Eine KI könnte übrigens sicherlich als "Brandmelder" hilfreich sein.

[Burkart]

Es gibt ein Gedankenexperiment von John Searle, zumindest glaube ich, dass es von ihm stammt, mit dem Roboter in der Scheune.

Stell dir vor, du bist ein Roboter, der in einer Scheune "lebt". Du hast einen Computer in deinem Kopf, der dir "sagt", was du tun sollst. (Das gesamte mentalistische Vokabular, was hier zum Einsatz kommt, ist natürlich rein metaphorisch. Ab jetzt verzichte ich auf die Anführungszeichen.) Du hast auch Sensoren, die dir Informationen über deine Umgebung geben. Eines Tages brennt die Scheune. Du bemerkst den Rauch und die Hitze und fragst dich, was du tun sollst. Es gibt zwei Möglichkeiten: Entweder du versuchst, aus der Scheune zu fliehen, oder du bleibst, wo du bist. Du beginnst, die Vor- und Nachteile beider Möglichkeiten abzuwägen. Während du das tust, stürzt das Dach über dir ein und erschlägt dich.

Searle argumentiert, dass der Roboter in diesem Szenario keine echte Intentionalität hat, d.h. er hat keine echten Ziele, Wünsche oder Überzeugungen. Er befolgt nur die Anweisungen seines Computers, ohne zu verstehen, was sie bedeuten. Er hat auch kein echtes Bewusstsein, d.h. er hat keine subjektiven Erfahrungen oder Gefühle. Er ist nur eine Maschine, die Daten verarbeitet.

Roboter können vielleicht das haben, was Searle geliehene Intentionalität nennt, aber sie haben keine intrinsische Intentionalität, die daran gebunden ist, dass man einen lebendigen Körper hat. Ich denke, das ist sowohl eine ontologische Gegebenheit als auch eine begriffliche Wahrheit.

Das Modell geht nur nicht davon aus, dass Roboter auch grundsätzliche Gesetze (*) ähnlich den Asimovschen Robotergesetzen haben können. Dann könnte der Roboter bei Gefahr für seine Existenz schnell versuchen diese abzuwenden, außer ggf., dass er besser Menschen retten könnte - was hier immerhin eine gewisse Ähnlichkeit zu Feuerwehrleuten hätte.

(*) PS: Dies geht von (m)einer grundlegenden Ziel(verfolgungs)struktur für KI aus, gerne ggf. (erneut) an anderer Stelle.

[Timberlake]

... bezugnehmend auf meinen letzten Beitrag, würde dergleichen allerdings auch vorrausetzen , dass man sich (metaphorisch gesprochen) auch durch eine "vernünftige" KI ( Burkart) retten lässt .

[Jörn Budesheim]

Das Modell geht nur nicht davon aus, dass Roboter auch grundsätzliche Gesetze (*) ähnlich den Asimovschen Robotergesetzen haben können.

Das Gedankenexperiment geht davon aus, dass Roboter nur Asimov'sche Robotergesetze o.ä. verarbeiten und keine intrinsische, sondern nur geliehene Intentionalität besitzen.

[Burkart]

Das Modell geht nur nicht davon aus, dass Roboter auch grundsätzliche Gesetze (*) ähnlich den Asimovschen Robotergesetzen haben können.

Das Gedankenexperiment geht davon aus, dass Roboter nur Asimov'sche Robotergesetze o.ä. verarbeiten und keine intrinsische, sondern nur geliehene Intentionalität besitzen.

Was immer genau "intrinsische" und "geliehene" genau unterscheidet bzw. sind.
Hat uns sie ein Gott vielleicht "geliehen"? Oder eine allumfassende Natur? (Eine Frage der Perspektive...)

Die Robotergesetze sehe ich hier als so tief integriert wie bei uns unsere biologischen, sodass ihr Ursprung i.a. keine relevante Rolle spielt.
Insofern wird beim Roboter kein relevantes Zögern geben, wenn eine Scheune in Flammen steht. Dies fürchte ich eher bei Menschen, wenn sie in Panik geraten.

Stell dir vor, du bist ein Roboter, der in einer Scheune "lebt". Du hast einen Computer in deinem Kopf, der dir "sagt", was du tun sollst. (Das gesamte mentalistische Vokabular, was hier zum Einsatz kommt, ist natürlich rein metaphorisch. Ab jetzt verzichte ich auf die Anführungszeichen.) Du hast auch Sensoren, die dir Informationen über deine Umgebung geben. Eines Tages brennt die Scheune. Du bemerkst den Rauch und die Hitze und fragst dich, was du tun sollst. Es gibt zwei Möglichkeiten: Entweder du versuchst, aus der Scheune zu fliehen, oder du bleibst, wo du bist. Du beginnst, die Vor- und Nachteile beider Möglichkeiten abzuwägen. Während du das tust, stürzt das Dach über dir ein und erschlägt dich.

Searle argumentiert, dass der Roboter in diesem Szenario keine echte Intentionalität hat, d.h. er hat keine echten Ziele, Wünsche oder Überzeugungen.

Dann sollte Searle oder zumindest wir hier von einem Zielmodell ausgehen, das z.B. Gefahrensituationen entsprechend hoch priorisiert bzw. zumindest den Erhalt seiner eigenen Existenz. "Echt" ist dann für das Verhalten irrelevant.
Gefahrensituationen müssen bzw. können oft erlernt werden (Lernen als zentraler Aspekt von KI, den Searle hier anscheinend nicht einbezieht), was auch z.B. Kinder es oft erst müssen, wenn ihnen "spiel nicht mit Feuer" beigebracht wird.

Er befolgt nur die Anweisungen seines Computers, ohne zu verstehen, was sie bedeuten. Er hat auch kein echtes Bewusstsein, d.h. er hat keine subjektiven Erfahrungen oder Gefühle. Er ist nur eine Maschine, die Daten verarbeitet.

Das ist einfach ein zu primitives KI-Modell. Lernen sollte halt zentraler Punkt sein, um Bedeutungen bzw. Verstehen aufzubauen, eben um aus eigenen Erfahrungen z.B. von Erfolgen und Misserfolgen (= früher erfolgreich oder erfolglos erfüllte Ziele) zu profitieren.

Roboter können vielleicht das haben, was Searle geliehene Intentionalität nennt, aber sie haben keine intrinsische Intentionalität, die daran gebunden ist, dass man einen lebendigen Körper hat. Ich denke, das ist sowohl eine ontologische Gegebenheit als auch eine begriffliche Wahrheit.

Ja, Roboter leben nicht im biologischen Sinne, aber das müssen sie auch nicht, wollen wir in der KI auch gar nicht.

[Jörn Budesheim]

"Echt"

Das ist nicht irrelevant, sondern das ist das Thema des Fadens. Dass die Programme Dinge simulieren können, ist geschenkt. Aber es ist eben nicht echt, keine intrinsische Intentionalität, sondern nur von uns verliehen.

[Burkart]

"Echt"

Das ist nicht irrelevant, sondern das ist das Thema des Fadens.

Thema ist doch einfach "K.I." und nicht "echt" o.ä.!?

Dass die Programme Dinge simulieren können, ist geschenkt. Aber es ist eben nicht echt, keine intrinsische Intentionalität, sondern nur von uns verliehen.

Entscheidend ist, was KI kann bzw. können wird, nicht warum.
Nun wünsche ich dir auch hier ein frohes Weihnachtsfest, vermutlich live ohne jegliche KI

[Jörn Budesheim]

Ich vermute, dass ich viel mehr mit der sogenannten KI arbeite als du. Sie ist aus meinem Arbeitsalltag praktisch nicht mehr wegzudenken. Und das Wissen, dass es sich dabei nur um Werkzeuge handelt, gehört zum richtigen Umgang zwingend dazu.

[Burkart]

Ich vermute, dass ich viel mehr mit der sogenannten KI arbeite als du. Sie ist aus meinem Arbeitsalltag praktisch nicht mehr wegzudenken. Und das Wissen, dass es sich dabei nur um Werkzeuge handelt, gehört zum richtigen Umgang zwingend dazu.

Aktuelle KI(-Mittel) betreffend hast du sicher recht. Meine Betrachtungen gehen dagegen auch von weitreichenden KI-Möglichkeiten aus (KI als weites Feld), die es in der Praxis bisher nicht oder nur ansatzweise gibt.
Arbeitest du auch mit Robotern? Dies ist ja noch nicht so häufig.

[Timberlake]

Das Modell geht nur nicht davon aus, dass Roboter auch grundsätzliche Gesetze (*) ähnlich den Asimovschen Robotergesetzen haben können.

Das Gedankenexperiment geht davon aus, dass Roboter nur Asimov'sche Robotergesetze o.ä. verarbeiten und keine intrinsische, sondern nur geliehene Intentionalität besitzen.

Was immer genau "intrinsische" und "geliehene" genau unterscheidet bzw. sind.
Hat uns sie ein Gott vielleicht "geliehen"? Oder eine allumfassende Natur? (Eine Frage der Perspektive...)

Die Robotergesetze sehe ich hier als so tief integriert wie bei uns unsere biologischen, sodass ihr Ursprung i.a. keine relevante Rolle spielt.
Insofern wird beim Roboter kein relevantes Zögern geben, wenn eine Scheune in Flammen steht. Dies fürchte ich eher bei Menschen, wenn sie in Panik geraten.

. Apropos in Panik geraten ..

Militär testet KI-Kampfdrohne: Sie reagiert völlig unerwartet, Experten besorgt

Kampfdrohne eliminiert in Simulation ihren Betreiber: „Dürfen Ethik nicht vergessen“

Denn die Lehre aus dem Test: Die KI merkte, dass sie teils „Feinde“ erkannte, die sein Betreiber dennoch nicht getötet wissen wollte. „Aber die KI erreichte ‚Vorteile‘, wenn sie doch tötete“, zitiert ein Blogeintrag von dem Gipfel Hamilton. „Was ist also passiert? Die KI hat ihren Betreiber getötet. Sie hat ihren Betreiber getötet, weil er sie daran gehindert hat, ihr Ziel zu erreichen.“

.... habe selten so gelacht. Dazu nur mal zur Erinnerung was die Asimovschen Robotergesetze beinhalten ...

Asimovs Robotergesetze

Das erste Mal tauchten diese Gesetze 1942 in der Geschichte "Runaround" auf. Auch der Begriff der "Robotik", der heute die Wissenschaft der Roboterentwicklung bezeichnet, wurde in "Runaround" erstmals erwähnt. Die ursprünglichen Grundregeln der Robotik lauteten:

1. Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

2. Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen.

3. Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt.

. das will ich wohl meinen , dass in Anbetracht von solchen "übereifrigen" Killerrobotern, die hier formulierten Robotergesetze keine relevante Rolle mehr spielen. Ganz im Gegenteil.
Wenn eine KI-Kampfdrohne:völlig unerwartet reagiert , warum sollte das dann nicht auch (um auf das Gedankenexperiment zurück zu kommen ) , für einen KI- Roboter in einer brennenden Scheune zu treffen ? Zumal , intrinsische oder geliehene Intentionalität hin oder her , das 3. Gesetz besagt , dass ein Roboter seine eigene Existenz schützen muss.

[AufDerSonne]

Hallo Leute.
Wusstet ihr, dass ich der grösste Denker aller Zeiten bin? Noch grösser als die beste KI?

[Burkart]

Hallo Leute.
Wusstet ihr, dass ich der grösste Denker aller Zeiten bin? Noch grösser als die beste KI?

Und nun? (Ziehst du deine Dame nun nicht mehr zu früh? Kleiner Insider )

@Timberlake:
Ja, leider setzen sich Asimovs Roboter-Gesetze wie die 3 (bzw. 4 zusammen mit dem 0. "pro Menschheit") nicht durch; gerade Kampfdrohnen scheinen ja zu wichtig zu sein... oder auch schon sowas wie (einseitige) Beeinflussung von Wahlen...
...aber hinreichend schnelles Agieren sollten sie oder auch ähnliche wirklich ermöglichen.

[AufDerSonne]

Und nun? (Ziehst du deine Dame nun nicht mehr zu früh? Kleiner Insider )

Du gönnst mir nur das schöne Gefühl nicht, der grösste Denker aller Zeiten zu sein.
Gut, dieser Damen-Zug wurmt mich schon ein bisschen. Hi hi.

[Timberlake]

Hallo Leute.
Wusstet ihr, dass ich der grösste Denker aller Zeiten bin? Noch grösser als die beste KI?

Als grösste Denker aller Zeiten hast du doch sicherlich das Leib-Seele-Problem gelöst. Ich meine , wie wollte man auch bei einer KI eine Seele ausmachen , wenn noch nicht einmal klar ist , wie die Seele aus einem menschlichen Leib hervorgeht.

Leib-Seele-Problem
....
1) Bedingungen des psychophysischen Niveaus: Wie kann es sein, daß ein elektrophysiologischer oder biochemischer Erregungsprozeß im Nervensystem Bewußtseins- und Erlebnis-Qualität erhält?
..

Gegenfrage ... Wie kann es sein, daß ein elektromagnetischer oder quantenchemischer Erregungsprozeß in einem Computersystem ..( k-) ein! .. Bewußtseins- und Erlebnis-Qualität erhält.

[Burkart]

Hallo Leute.
Wusstet ihr, dass ich der grösste Denker aller Zeiten bin? Noch grösser als die beste KI?

Als grösste Denker aller Zeiten hast du doch sicherlich das Leib-Seele-Problem gelöst. Ich meine , wie wollte man auch bei einer KI eine Seele ausmachen , wenn noch nicht einmal klar ist , wie die Seele aus einem menschlichen Leib hervorgeht.

Das ist für den größten Denker sicherlich kein Problem, er könnte doch einfach die Seele als reine Einbildung ansehen oder zurückfragen, wie du eine andere Existenz einer Seele beweisen willst.

Leib-Seele-Problem
....
1) Bedingungen des psychophysischen Niveaus: Wie kann es sein, daß ein elektrophysiologischer oder biochemischer Erregungsprozeß im Nervensystem Bewußtseins- und Erlebnis-Qualität erhält?
..

Gegenfrage ... Wie kann es sein, daß ein elektromagnetischer oder quantenchemischer Erregungsprozeß in einem Computersystem ..( k-) ein! .. Bewußtseins- und Erlebnis-Qualität erhält.

Mehr oder weniger dito - Bewusstsein als Einbildung