Kaffeestübchen

[Jörn Budesheim]

Programm-Architektur

Einen der wichtigsten Punkte, der schließlich strittig ist, streifst du nicht mal, ja er spielt für deine Argumentation nicht die geringste Rolle - die Frage, ob für die Ausführung der Programme das Substrat von Bedeutung ist. Welchen Grund hast du, anzunehmen, dass das alles, worum es hier geht, auch nichtbiologisch möglich ist.

[Burkart]

Programm-Architektur

Einen der wichtigsten Punkte, der schließlich strittig ist, streifst du nicht mal, ja er spielt für deine Argumentation nicht die geringste Rolle - die Frage, ob für die Ausführung der Programme das Substrat von Bedeutung ist. Welchen Grund hast du, anzunehmen, dass das alles, worum es hier geht, auch nichtbiologisch möglich ist.

Welches Substrat? Die der Biologie?
Es spielt deshalb keine Rolle, weil ich technisch heran gehe oder auch rein funktional, wenn du so willst.
Sieh "maschinelle Intelligenz" bzw. "KI" gerne als unpassenden Ausdruck an, insofern du "Inteliigenz" nur auf Biologisches anwenden möchtest.

Ich gehe von Ideen der Kybernetik und Bionik aus, die sich "mit dem Übertragen von Phänomenen der Natur auf die Technik" beschäftigt. Wie beim Fliegen kann man sich die Natur gut als Vorbild nehmen, um dann das Phänomen Fliegen technisch nachzubauen.
Ähnlich geht es auch mit "intelligenten" Vorgängen wie z.B. die Bestimmung von guten Schachzügen.

"Echte starke KI" ist dann "nur" in seiner Funktionalität mit natürlicher zu vergleichen, also was kann die KI, was der Mensch - halt im Sinne des Turingtests.

PS: Insofern ist für mich auch die Frage, inwieweit Philosophen hier mitreden können, zumindest soweit sie sich nicht auf Computertechnik beziehen. Klar, man kann über Begriffe sprechen, aber das geht oft haarscharf am Thema vorbei, weil bei KI i.a. die technisch adaptierten Begriffe gemeint sind, die natürlich möglich nah an den allgemeinen angelehnt sein sollen.

[Jörn Budesheim]

Welches Substrat?

Wie beim Fliegen kann man sich die Natur gut als Vorbild nehmen, um dann das Phänomen Fliegen technisch nachzubauen.

#natur Dann erklär mir mal bitte, wie du einen Computer allein mit Programmanweisungen zum "Fliegen" bringst, unabhängig von den materiellenergetischen Eigenschaften des Computers selbst.

#substrat Außerdem würde mich interessieren, ob du glaubst, dass es möglich ist, ein Flugzeug nur aus Kochkäse zu bauen.

[Burkart]

Welches Substrat?

Wie beim Fliegen kann man sich die Natur gut als Vorbild nehmen, um dann das Phänomen Fliegen technisch nachzubauen.

#natur Dann erklär mir mal bitte, wie du einen Computer allein mit Programmanweisungen zum "Fliegen" bringst, unabhängig von den materiellenergetischen Eigenschaften des Computers selbst.

Du meinst, auch wenn ein Computer gar nicht die Eigenschaften zum Fliegen hat? Warum sollte ich das machen bzw. welchen Sinn soll das haben?

#substrat Außerdem würde mich interessieren, ob du glaubst, dass es möglich ist, ein Flugzeug nur aus Kochkäse zu bauen.

Dito. Welchen Sinn soll das haben?

KI hat dagegen die Sinn, uns auch gewisse intelligente(re) Aufgaben abnehmen zu können, gerne als Roboter z.B. bei Hilfe an Menschen, z.B. zum Anziehen meiner Socken hätte ich gerne einen solchen (Anzieh(ge)hilfe).

[Jörn Budesheim]

Der Sinn besteht darin, dir zu zeigen dass die Nachfrage nach dem Substrat äußerst wichtig ist. Wer ein Flugzeug, das Passagiere über den Atlantik fliegen soll, aus Kochkäse bauen will, wird sicherlich ziemliche Probleme bekommen, weil sich Kochkäse aller voraussicht nach dafür nicht eignet.

Manches muss bestimmte Eigenschaften haben, um bestimmte Dinge zu können. Intelligenz muss z.b verkörpert (embodied) sein. Und du behauptest, ohne jede Evidenz und ohne jede Begründung, dass es anders sein könnte, das ist ungefähr so sinnvoll, wie zu behaupten, dass ein Flugzeug auch aus Kochkäse sein könnte.

[Burkart]

Der Sinn besteht darin, dir zu zeigen dass die Nachfrage nach dem Substrat äußerst wichtig ist. Wer ein Flugzeug, das Passagiere über den Atlantik fliegen soll, aus Kochkäse bauen will, wird sicherlich ziemliche Probleme bekommen, weil sich Kochkäse aller voraussicht nach dafür nicht eignet.

Manches muss bestimmte Eigenschaften haben, um bestimmte Dinge zu können. Intelligenz muss z.b verkörpert (embodied) sein. Und du behauptest, ohne jede Evidenz und ohne jede Begründung, dass es anders sein könnte, das ist ungefähr so sinnvoll, wie zu behaupten, dass ein Flugzeug auch aus Kochkäse sein könnte.

Wenn ich von Robotern spreche, ist die KI doch verkörpert!? Von ihnen gehen ich letztlich aus, auch wenn Intelligenz auch schon in Software vorliegen kann; Schach galt dafür lange als Beispiel.

[Jörn Budesheim]

Wenn ich von Robotern spreche, ist die KI doch verkörpert!?

Natürlich nicht. Gemeint ist ein lebendiger Körper.

[NaWennDuMeinst]

Wir drehen uns im Kreis. Burkart wird jetzt wieder sagen, dass Intelligenz keine Lebendigkeit braucht. Intelligenz ist eine vom Lebendigen gelöst zu betrachtende "Funktion".
Diese Funktion kann auf jedes beliebige "Substrat" übertragen werden. Man baucht nur die dazu nötige Technik.
Also im Prinzip liegt hier ein tiefer Glaube an die Allmächtigkeit von Technik vor.

[Burkart]

Wir drehen uns im Kreis. Burkart wird jetzt wieder sagen, dass Intelligenz keine Lebendigkeit braucht.

So ist es.

Intelligenz ist eine vom Lebendigen gelöst zu betrachtende "Funktion".

Nicht ganz; Intelligenz als solche ist keine Funktion. Intelligenz steht als Über- bzw. Sammelbegriff für Funktionalitäten, die z.T. maschinell nachgebildet werden können.

Diese Funktion kann auf jedes beliebige "Substrat" übertragen werden. Man baucht nur die dazu nötige Technik.
Also im Prinzip liegt hier ein tiefer Glaube an die Allmächtigkeit von Technik vor.

Wer spricht denn von "Allmächtigkeit"? Übertreibst du absichtlich?

[Stefanie]

Wir drehen uns im Kreis. (...)

Mir ist deshalb schon schwindelig....

[NaWennDuMeinst]

Diese Funktion kann auf jedes beliebige "Substrat" übertragen werden. Man baucht nur die dazu nötige Technik.
Also im Prinzip liegt hier ein tiefer Glaube an die Allmächtigkeit von Technik vor.

Wer spricht denn von "Allmächtigkeit"? Übertreibst du absichtlich?

Nein. Das ist nüchtern betrachtet genau das was Du aussagst. Alles ist Funktion und Funktion kann beliebig nachgebildet werden sobald die nötige Technik vorhanden ist (man muss es nur richtig machen/programmieren).
Es gibt, wenn man das so betrachtet keinen Grund anzunehmen warum wir nicht irgendwann alle unsterblich sein oder ganze Universen erschaffen könnten.
Wie Götter.

[NaWennDuMeinst]

Wir drehen uns im Kreis. (...)

Mir ist deshalb schon schwindelig....

Mir auch. Eigentlich ist es auch egal, weil das - im besten Falle - eh alles Zukunftsmusik ist.
Dass Compute eine Intelligenz aufweisen, die man auch zu recht so nennen kann, soweit sind wir noch lange nicht.
Eines Tages aber werden Wissenschaftler das für sich in Anspruch nehmen und dann wird es interessant.
Denn dann wird man sich die Frage stellen müssen, wie das Ganze zu bewerten ist, also z.B. die Mensch-Maschine- Interaktion.
Auch rechtlich dürfte das dann sehr interessant werden.
Einen Vorgeschmack hatten wir schon bei der Frage, wer im Falle eines Schadens, den ein autonomes Fahrzeug verursacht, haften muss.
Wenn Computer irgendwann wirklich einen eigenen Willen haben, so wie Burkart es für möglich hält, wird man sich die Frage ja nochmal ganz anders stellen müssen.

[NaWennDuMeinst]

Eine Frage hätte ich aber noch an Burkart. Wer ist eigentlich Dein Besitzer?
Und wenn Computer/Roboter einen eigen Willen haben, dürfen wir uns dann darüber hinwegsetzen? Wenn ja, warum?
Also was ich meine ist: Wenn Computer eines Tages sämtliche menschliche Funktionen besitzen, müssten wir sie dann nicht auch wie Menschen behandeln?
Wenn nein, warum nicht?

[Jörn Budesheim]

Wenn Computer eines Tages sämtliche menschliche Funktionen besitzen, müssten wir sie dann nicht auch wie Menschen behandeln?

Im Grunde ist das ja auch die Frage, die die beiden Filme Blade Runner stellen. In dem Moment, wo die Replikanten sich biologisch vermehren, gebühren ihn auch die entsprechenden Rechte.

[Jörn Budesheim]

Zukunftsmusik

Rassismus in Algorithmen

15. April 2021

Wenn die Polizei für ihre Ermittlungen die Gesichtserkennung einsetzt, ist das problematisch. Zum einen, weil der Grat zur Massenüberwachung schmal ist. Zum anderen, weil die Algorithmen, die im Auftrag der Polizei in Fotodatenbanken nach Tätern suchen, oft schwerwiegende Fehler machen. Ein Mann aus Detroit hat die Behörden deswegen jetzt verklagt.

https://www.deutschlandfunknova.de/beit ... gefaengnis

So sehr Zukunftsmusik ist es dann doch nicht, darauf weist du im Prinzip ja auch hin. Angebliche KI wird ja bereits tagtäglich eingesetzt - für alle möglichen Zwecke. Und wenn die Menschen glauben, dass die Software Gesichter erkennen kann, werden sie sich wahrscheinlich eher auf das angebliche "Urteil" der Software verlassen, als wenn ihnen klar ist, dass die Software nicht den geringsten Schimmer hat und bloß das Werkzeug zur Erkennung vom Gesichtern ist, was von Menschen programmiert wurde. Durch diese verfehlte Formulierung ("die Software erkennt ein Gesicht") werden die Menschen, die für das Programm verantwortlich sind, tendenziell ausgeblendet. Durch dieses Missverständnis haben alle möglichen Ideologien natürlich eine viel größere Chance.

Daher ist es meines Erachtens auch kein philosophisches Glasperlenspiel deutlich zu machen, dass wir es mit Werkzeugen zu tun haben, Werkzeuge die von bestimmten Personen oder Interessengruppen für bestimmte Zwecke produziert wurden. Und in diese Programme fließen natürlich auch Dinge ein, die den Programmierer.innen und den entsprechenden Interessengruppen womöglich gar nicht klar sind, weil sie unterschwellig ablaufen. Dadurch werden ggf. rassistische Tendenzen konserviert oder gar verstärkt und unter dem Deckmantel der Objektivität verkauft, schließlich hat es die KI ja "gesagt"/"erkannt".

Auf der anderen Seite "kennen" diese Werkzeuge nicht so etwas wie eine Tagesform, so dass sie ein schlechteren Tagen härter "urteilen" als an guten, wie z.b Richter. Das zeigen entsprechende Beispiele von Softwares die (in den Vereinigten Staaten) in der Justiz eingesetzt werden.

Es ist meines Erachtens extrem wichtig, diese Dinge zu diskutieren, denn in Zukunft wird sogenannte KI zunehmend eingesetzt werden und unser Leben bestimmen. Und da muss man sich klar machen, wo man sie einsetzen kann und wo nicht. Und es muss klar sein, dass es sich dabei um Werkzeuge handelt und keineswegs um Intelligenz.

[Jörn Budesheim]

Außerdem geht es natürlich um eine der zentralen Fragen nicht nur in der Philosophie, sondern für jede.n Einzelne.n: was ist der Mensch bzw wer bin ich, wie soll ich mich selbst verstehen, was ist meine Antwort auf die Frage, die ich bin.

Die Verzerrungen gehen schließlich nicht nur in eine Richtung. Es ist nicht nur so, dass wir ganz verfehlt unsere sozial/geistig/körperlichen Begriffe auf die Apparate anwenden. Sondern wir fangen auch an, uns im Bild dieser Apparate "wiederzuerkennen" und uns z.b selbst als Programme zu bezeichnen. In dieser Hinsicht stehen wir wahrscheinlich im langen Schatten der Körperfeindlichkeit des Christentums. Das sieht man auch sehr schön in diesem Faden, wenn die meisten bei Geist sofort an irgendetwas ätherisches denken.

Das führt dann letztlich zu starkreligiösen Vorstellungen: Früher setzten die Menschen darauf, dass der Erlöser kommen wird, heute glauben sie: "Allgemeine, starke KI wird kommen". Manche glauben gar an ein Weiterleben nicht mehr im Himmel, sondern in der Cloud. Es ist sicherlich kein Zufall, dass die Metaphoriken hier so wunderbar passen.

[Burkart]

Diese Funktion kann auf jedes beliebige "Substrat" übertragen werden. Man baucht nur die dazu nötige Technik.
Also im Prinzip liegt hier ein tiefer Glaube an die Allmächtigkeit von Technik vor.

Wer spricht denn von "Allmächtigkeit"? Übertreibst du absichtlich?

Nein. Das ist nüchtern betrachtet genau das was Du aussagst.

Nicht wirklich.

Alles ist Funktion und Funktion kann beliebig nachgebildet werden sobald die nötige Technik vorhanden ist (man muss es nur richtig machen/programmieren).

Erst einmal gibt es viele Technik einfach noch nicht, sodass die Frage ist, ob/wann es sie überhaupt geben wird.
Von Jules Verne z.B. sind z.B. U-Boote und Mondflug Realität geworden, nicht aber zum Erdmittelpunkt vorzudringen.
Vor allem mag es aber theoretische, logische Grenzen geben, z.B. wie das Halteproblem ja auf die prinzipielle Unberechenbarkeit von Allem insgesamt hinweist.

Es gibt, wenn man das so betrachtet keinen Grund anzunehmen warum wir nicht irgendwann alle unsterblich sein

Biologische Unsterblichkeit mag z.B. nie für uns erreichbar sein, wer weiß. Wenn, dann mag es eher eine in der Form geben, dass wir in eine andere Plattform mal gespielt/hineinkopiert werden könnten (oder ggf. nur teilweise), aber ob/inwieweit es das geben wird...

oder ganze Universen erschaffen könnten.
Wie Götter.

Dazu müsste unsere Physik noch einiges herausfinden, wenn es denn gehen soll...

[Burkart]

Wir drehen uns im Kreis. (...)

Mir ist deshalb schon schwindelig....

Es ist auch ein schwieriges Gebiet, ob nun technisch (theoretisch) oder auch (u.a. dadurch bedingt) philosophisch.

Mir auch. Eigentlich ist es auch egal, weil das - im besten Falle - eh alles Zukunftsmusik ist.
Dass Compute eine Intelligenz aufweisen, die man auch zu recht so nennen kann, soweit sind wir noch lange nicht.

Und dann wird womöglich der Intelligenzbegriff ggf. wieder verschärft und wieder nicht gelten

Eines Tages aber werden Wissenschaftler das für sich in Anspruch nehmen und dann wird es interessant.
Denn dann wird man sich die Frage stellen müssen, wie das Ganze zu bewerten ist, also z.B. die Mensch-Maschine- Interaktion.
Auch rechtlich dürfte das dann sehr interessant werden.

Sicherlich richtig.

Einen Vorgeschmack hatten wir schon bei der Frage, wer im Falle eines Schadens, den ein autonomes Fahrzeug verursacht, haften muss.
Wenn Computer irgendwann wirklich einen eigenen Willen haben, so wie Burkart es für möglich hält, wird man sich die Frage ja nochmal ganz anders stellen müssen.

Ein Willen alleine muss noch kein Problem mit Verantworlichkeit sein, solange dieser nicht zu frei ist, ähnlich wie kein Kindern (Eltern verantworten) oder früher bei Sklaven.
Aber klar, es mag sich mal die Frage stellen; z.B. Asimov hat es beim Zweihundertjährigen schön gezeigt.

Ansatzweise haben wir das Problem schon heute bei Technik, z.B. bei komplexen Atomkraftwerken, also dass Menschen die Verantwortung haben und vergleichbar bei Robotern auch behalten werden, entweder die Hersteller oder die Betreiber/Eigentümer/Besitzer (auf wen man die Verantwortung ggf. verlagert hat; bei Computern z.T. auf die Nutzer z.B. hinsichtlich Viren- oder Hackerschutz). Ob Dinge wie Roboter nur noch selbst für sich die Verantwortung haben werden, wird zumindest erstmal länger wohl nicht der Fall sein, ist langfristig aber eine interessante Frage, z.B. welche Kriterien man dafür anlegt, ob nun "Menschsein" wie bei Asimov oder aber ein gewisses Level von Intelligenz o.ä.

[Burkart]

Eine Frage hätte ich aber noch an Burkart. Wer ist eigentlich Dein Besitzer?

Niemand (mehr), insofern ich als erwachsen gelte und auch als juristisch geschäftsfähig (oder wie das heißt, wenn nicht jemand Anderes für dich verantwortlich ist wegen Altersdemenz o.ä.).

Und wenn Computer/Roboter einen eigen Willen haben, dürfen wir uns dann darüber hinwegsetzen? Wenn ja, warum?
Also was ich meine ist: Wenn Computer eines Tages sämtliche menschliche Funktionen besitzen, müssten wir sie dann nicht auch wie Menschen behandeln?
Wenn nein, warum nicht?

Wie im vorigen Beitrag schon angesprochen, könnte man einen gewissen Level von Intelligenz für Rechte zugrundelegen, ähnlich wie bei Kindern. Bei diesen nimmt man meist das Alter als Grundlage (hm, gilt das eigentlich auch für alle geistig behinderte? Vermutlich!?), wobei es juristisch bei 18-21-jährigen immerhin eine juristische Grauzone zum Erwachsenen gibt.
Bei KI/Robotern könnte es vielleicht so etwas wie (ein) Test(s) sein zum Nachweis, vielleicht gar mit Prüfung, ähnlich wie wir eine Führerscheinprüfung machen, damit wir Autos u.ä. fahren dürfen.
Insofern könnte man an deine "wenn ja/nein"-Fragen so herangehen, wobei man mehr als nur "ja/nein" einführen könnte, als immer mehr Rechte mit mehr Intelligenz/Kompetenz (ähnlich wie LKW-Führerschein weitergehend ist, Bootsführerscheine u.ä. sogar noch erheblich spezieller sind, also speziellere Rechte zulassen).

[Burkart]

An Jörn:
Was Rassismus bei heutiger KI betrifft, ist wirklich die Fütterung mit Trainingsdaten Schuld an dessen Ergebnissen. Auch ist es eben nur schwache KI ohne jegliches weitergehende Verständnis; einer besseren KI könnte man weitere Kriterien zum besseren Lernenzugrundelegen, ggf. gar ihr Lernergebnis später noch mit diesen abgleichen.
Allerdings gelten ja auch Menschen als Rassisten und das seit Jahrzehnten, also sind diese auch nicht einfach unbedingt besser in diesem Punkt.

Es ist meines Erachtens extrem wichtig, diese Dinge zu diskutieren, denn in Zukunft wird sogenannte KI zunehmend eingesetzt werden und unser Leben bestimmen. Und da muss man sich klar machen, wo man sie einsetzen kann und wo nicht. Und es muss klar sein, dass es sich dabei um Werkzeuge handelt...

Diese Feinfühligkeit hat unsere Gesellschaft ja erst entwickeln müssen und wird sie sicher auch noch weiter tun. Das gilt ja nicht für KI, sondern für Technik insgesamt (z.B. Waffenbesitz) oder auch den großen Bereich des Umweltschutzes.

Und ja, unser Menschenbild und das Gott wird sich durch KI auch ändern (können), aber auch das geschieht ja nicht zum ersten Mal. So scheint mir z.B. der Mensch z.T. als möglichst gut funktionierende Maschine angesehen zu werden von einigen Arbeitgebern, die halt gut funktionieren, aber möglichst wenig Rechte samt Geld haben/verdienen soll (z.B. bei Amazon hinsichtlich Logistik-Branche). (Zum Glück gilt das nicht (so) für alle Arbeitgeber.)