Mensch, Maschine, KI, Stellungnahme des Deutschen Ethikrates

[Jörn P Budesheim]

Burkart, mir fällt auf, dass du in diesem Faden von Anfang an eine gewisse „Abwehrhaltung“ zeigst.

Etwas übertrieben gesagt, unterstellst du dem Ethikrat, sich nicht mit dem wirklich spannenden Thema zu beschäftigen, wo es doch erst richtig interessant wird, wenn die starke KI kommt. Aber ist es nicht auch wichtig, das zu diskutieren, was bereits jetzt massive Auswirkungen hat – positive wie negative?

Kritische Betrachtungen von KI wiegelst du überwiegend ab, wenn du zum Beispiel schreibst: „Öhm, ja, daran ist also die heutige KI schuld?“ Nein natürlich nicht, denn KI ist ja gar nicht schuldfähig. Stattdessen verlagert sich dein Augenmerk – wie übrigens fast immer, wenn ethische Fragen diskutiert werden – auf Trump, Putin oder China. Und das, obwohl gerade diese Akteure selbst intensiv Technologie für ihre aggressiven Machtstrategien nutzen. Auch in deinem letzten Beitrag findet sich wieder diese relativierende und abwiegelnde Sicht: "Mächtige haben schon immer versucht..."

Mich würde interessieren, wie das kommt?

[Burkart]

Ich habe sicher nichts gegen den Ethikrat und seine Arbeit; gerade als Gegenpol zu den USA ist er wichtig.

Abwehrhaltung... sie ist mir nicht recht bewusst.
Vielleicht sehe ich andere Probleme als wichtiger an, und hinsichtlich KI eben, dass es vor ihr auch schon ähnliche (Internet-) Probleme gab, die mAn nicht hinreichend angegangen wurden (z.B. Spam, Datenschutz usw.), und andererseits KI noch viel mehr Einfluss haben wird als die aktuelle.
Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI gegen ihre (ggf. unnötigen) Einschränkungen
... wat weiß ich denn

[Jörn P Budesheim]

Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI

Aber wenn du die „Idee sinnvoller KI“ verteidigen willst, müsstest du dann nicht ein vehementer Kritiker ihrer nicht-sinnvollen Verwendungen sein, statt jede Kritik abzuwiegeln?

[Burkart]

Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI

Aber wenn du die „Idee sinnvoller KI“ verteidigen willst, müsstest du dann nicht ein vehementer Kritiker ihrer nicht-sinnvollen Verwendungen sein, statt jede Kritik abzuwiegeln?

Ich wüsste nicht, dass ich jede Kritik abwiegele. Nur bin ich oft genug desillusioniert hinsichtlich vieler Probleme.
Natürlich hoffe ich auf sinnvolle KI, aber vor allem wohl darauf, dass hinreichend starke KI einmal selbst als alternative Intelligenz einige menschliche Dummheit auffangen, wenn nicht sogar z.T. eliminieren kann.
Aktuelle KIs sind i.a. Werkzeuge, die für mich hinsichtlich solcher Probleme noch nicht viel bringt, sondern z.T. eben auch eher mal neue schafft.

[Jörn P Budesheim]

Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI

Aber wenn du die „Idee sinnvoller KI“ verteidigen willst, müsstest du dann nicht ein vehementer Kritiker ihrer nicht-sinnvollen Verwendungen sein? Dann müsste doch der Text des Ethik-Rates genau das Richtige für deine Verteidigung sinnvoller KI sein.

[Jörn P Budesheim]

die Entstehung einer starken KI [würde] jedoch einen qualitativen Sprung bedeuten ...

um so eher wird es interessant, wenn die scheinbar nur quantitative Natur sich als mehr herausstellen wird ...

?

[Burkart]

die Entstehung einer starken KI [würde] jedoch einen qualitativen Sprung bedeuten ...

um so eher wird es interessant, wenn die scheinbar nur quantitative Natur sich als mehr herausstellen wird ...

?

?

[Jörn P Budesheim]

Der Text, den du zitierst, spricht gar nicht von einer "scheinbar nur quantitativen Natur".

[Burkart]

Der Text, den du zitierst, spricht gar nicht von einer "scheinbar nur quantitativen Natur".

In dieser Stellungnahme wird vorausgesetzt, dass die Unterscheidung zwischen enger und breiter KI quantitativer bzw. gradueller Natur ist, die Entstehung einer starken KI jedoch einen qualitativen Sprung bedeuten würde.

Das habe ich so verstanden, dass sie nicht von einer starken KI ausgehen und deshalb nur von quantitativer Natur - während ich mit "scheinbar nur quantitativen Natur" Richtung starker KI weisen wollte.

[Timberlake]

Natürlich hoffe ich auf sinnvolle KI, aber vor allem wohl darauf, dass hinreichend starke KI einmal selbst als alternative Intelligenz einige menschliche Dummheit auffangen, wenn nicht sogar z.T. eliminieren kann.

Was allerdings ein Anderskönnens voraussetzt ...

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Wenn menschliche Freiheit im Sinne des Anderskönnens bestritten wird, kann an der Verantwortlichkeit menschlicher Personen nicht festgehalten werden.118 In § 20 StGB werden die praktischen und epistemischen Bedingungen von Schuldfähigkeit dargestellt, die ohne diese anthropologischen Voraussetzungen von Freiheit und Vernunft nicht aufrechtzuerhalten wären. Ohne die Fähigkeit, sich anders entscheiden zu können, gibt es keine Handlungsurheberschaft und keine Verantwortung.

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

Würdest du denn meinen, dass beispielsweise Trump anders könnte, wenn es eine hinreichend starke KI gäbe, die seine menschliche Dummheit auffängt, wenn nicht sogar z.T. eliminiert? Kann man überhaupt von Dummheit sprechen, so wie es ihm gelungen ist, gleich zweimal zum US-Präsidenten gewählt zu werden. Ich frage das vor dem Hintergrund, dass eine hinreichend starke KI ihn möglicherweise davon abgeraten hätte, sich für eine solche Wahl zur Verfügung zu stellen. Möglicherweise sogar mit dem Hinweis, dass er für einen US-Präsidenten zu dumm wäre.

Wo wir schon mal dabei sind ...

Neue KI bei Truth Social:Trumps eigener Chatbot korrigiert dessen Lügen

"Wurde die US-Wahl 2020 von den Demokraten gestohlen, wie Trump immer behauptet? Antwort der Truth Search AI: "Kurz: Nein. Es gibt keine belastbaren Belege dafür, dass die US-Präsidentschaftswahl 2020 'gestohlen' wurde oder dass Donald Trump tatsächlich gewonnen hat."

Du glaubst doch wohl nicht ernsthaft, dass Trump nun mehr, wo seine eigene neue KI bei Truth Social festgestellt hat, dass die US-Wahl 2020 von den Demokraten nicht gestohlen wurde, er sich deshalb eines Besseren besinnt? Weil er eben auch anders könnte!

[Burkart]

@Timberlake
Für mich sind es zwei Aspekte (mit Existenz der KI als gute alternative Intelligenz):
1. Wie würde sich eine Einzelperson ändern, wenn überhaupt, wie Trump?
2. Wie würde es auf die Menschheit Einfluss haben?

Ersteres wäre für mich unklar: Einerseits ist Trump Trump und macht, was er will. (Solche KI soll Menschen ja auch nicht zwingend "ummodeln", ein Mensch soll weiter Mensch bleiben.) Andererseits könnte auch ein Trump sich der KI anpassen, in welcher Weise auch immer.

Auf die Menschheit bezogen hoffe ich, dass solche KI mehr Erkenntnisse und Einsichten bekommt (z.B. in direkter Kommunikation mit der KI, ähnlich wie mit ChatGPT&Co heute schon, nur dass die KI besser wäre) und Leute wie Trump dann nicht mehr wählen würde. Ob das klappen würde, ist die Frage; Menschen(massen) können sehr irrational handeln. Langfristig, wenn das Gute an der alternativen KI (recht) allgemein anerkannt worden sein würde, wäre halt zu hoffen, dass ein Trump mit seinen dann noch offensichtlicheren Lügen, die die KI z.B. immer soweit aufdecken könnte, nicht mehr durchkäme. (Hauptsache, die "Meinungsfreiheit" der USA besteht nicht auch aus Lügen-Freiheit...)

[Timberlake]

@Burkart

Zunächst einmal mein Respekt. Halte ich es doch alles andere, als für selbstverständlich, wie du hier souverän auf meinen Beitrag, mit seinen durchaus provokanten Fragen reagierst hast.

Auf die Menschheit bezogen hoffe ich, dass solche KI mehr Erkenntnisse und Einsichten bekommt (z.B. in direkter Kommunikation mit der KI, ähnlich wie mit ChatGPT&Co heute schon, nur dass die KI besser wäre) und Leute wie Trump dann nicht mehr wählen würde. Ob das klappen würde, ist die Frage;

Oder anders gefragt ...

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Das Verhältnis von Menschen und Gesellschaft zur Technik wurde vielfach entlang der Deutungslinie zwischen sozialem Konstruktivismus und technologischem Determinismus beschrieben.

Dahinter steht die Frage nach dem letztlich treibenden Faktor:

Folgen Technikgestaltung im Einzelnen und damit auch der technische Fortschritt als Prozess eher menschlich gesetzten Zwecken oder eher einer Eigendynamik, der sich Mensch und Gesellschaft letztlich unterordnen und anpassen müssen.

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

Was ist der letztlich treibenden Faktor?

Folgt die Technikgestaltung und damit die KI eher menschlich gesetzten Zwecken!

Menschen(massen) können sehr irrational handeln.

So das sich ggf. die Technik und KI irrational gestaltet


Oder!

Folgt die Mensch- und Gesellschaftgestaltung eher technisch gesetzten Zwecken und somit dem, was du dich von einer KI langfristig erhoffst!

. Langfristig, wenn das Gute an der alternativen KI (recht) allgemein anerkannt worden sein würde, wäre halt zu hoffen, dass ein Trump mit seinen dann noch offensichtlicheren Lügen, die die KI z.B. immer soweit aufdecken könnte, nicht mehr durchkäme. (Hauptsache, die "Meinungsfreiheit" der USA besteht nicht auch aus Lügen-Freiheit...)

So das, wenn das Gute an der alternativen KI (recht) allgemein anerkannt worden sein würde, Menschen(massen) rational handeln.Beispielweise dadurch, dass Trump mit seinen Lügen bei selbigen nicht mehr durchkäme.


Auf was von beiden, zeigen die Zeichen der Zeit

Stichwort : Digitaler Faschismus: Wie KI-Ideologie die Demokratie untergräbt und wie wir sie verteidigen können

[Burkart]

@Timberlake

[Ethikrat:] Folgen Technikgestaltung im Einzelnen und damit auch der technische Fortschritt als Prozess eher menschlich gesetzten Zwecken oder eher einer Eigendynamik, der sich Mensch und Gesellschaft letztlich unterordnen und anpassen müssen.

Natürlich muss Ersteres das Ziel sein, auch wenn man Letzteres wohl nicht ganz vermeiden kann.
Auch deshalb sollte eine gute alternative Intelligenz in der Zukunft "Für Mensch" als grundlegenden Kern bekommen und auf dieser Basis lernen, was der Mensch wirklich möchte, also als grundlegend gut und anstrebenswert ansieht; so würde der Mensch im Mittelpunkt stehen bzw. bleiben und nicht eine (andere) Eigendynamik.
Dabei soll sie auch lernen, was rational sinnvoll ist, also auch mal Irrationalität von Menschen(gruppen) hinterfragen können zwecks Abfangens, Ausgleichens o.ä. ...und eben auch einen Trump bzw. seine Anhänger möglichst.

[Timberlake]

@Timberlake

[Ethikrat:] Folgen Technikgestaltung im Einzelnen und damit auch der technische Fortschritt als Prozess eher menschlich gesetzten Zwecken oder eher einer Eigendynamik, der sich Mensch und Gesellschaft letztlich unterordnen und anpassen müssen.

Natürlich muss Ersteres das Ziel sein, auch wenn man Letzteres wohl nicht ganz vermeiden kann.
Auch deshalb sollte eine gute alternative Intelligenz in der Zukunft "Für Mensch" als grundlegenden Kern bekommen und auf dieser Basis lernen, was der Mensch wirklich möchte, also als grundlegend gut und anstrebenswert ansieht; so würde der Mensch im Mittelpunkt stehen bzw. bleiben und nicht eine (andere) Eigendynamik.
Dabei soll sie auch lernen, was rational sinnvoll ist, also auch mal Irrationalität von Menschen(gruppen) hinterfragen können zwecks Abfangens, Ausgleichens o.ä. ...und eben auch einen Trump bzw. seine Anhänger möglichst.

Da gibt es nur ein Problem ...

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Manipulationen und Gegenmanipulationen, die strategischen Formen der Kommunikation, schaukeln sich zu chaotischen Prozessen hoch. Diese lassen der politischen Deliberation, der Abwägung von Gründen pro und kontra, womöglich nur noch wenig Spielraum und vermindern so die Möglichkeiten des öffentlichen Vernunftgebrauchs. Extremere und emotionalere Aussagen haben unabhängig von ihrem Wahrheitsgehalt gute Chancen, sich gegenüber abgewogenen Argumenten durchzusetzen oder diese sogar zu marginalisieren.

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

[Jörn P Budesheim]

Abwehrhaltung... sie ist mir nicht recht bewusst.

Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI

Wo in dem Text des Ethik-Rates wurde sie denn angegriffen?

[Jörn P Budesheim]

Dabei soll sie auch lernen, was rational sinnvoll ist, also auch mal Irrationalität von Menschen(gruppen) hinterfragen können zwecks Abfangens, Ausgleichens o.ä. ...und eben auch einen Trump bzw. seine Anhänger möglichst.

Hier wäre dann die Philosophie gefragt. Denn wenn man der Maschine beibringen will, zu lernen, was rational sinnvoll ist, stehen sofort viele philosophische Probleme im Raum, z.B.: was ist das eigentlich "Rationalität"? Denn vermutlich wird eine einfache Programmzeile wie [sei vernünftig!] nicht ausreichen

Vermutlich passt dazu dieser Faden: viewtopic.php?t=1842

[Burkart]

Abwehrhaltung... sie ist mir nicht recht bewusst.

Vielleicht verteidige ich auch einfach gerne die Idee sinnvoller KI

Wo in dem Text des Ethik-Rates wurde sie denn angegriffen?

Sag du's mir, ich habe das nicht behauptet.
Meine Verteidigung war ganz allgemein gemeint, z.B. in der Hinsicht, dass auch (starke) KI ggf. lernen kann, die Umwelt wahrnehmen usw. und das alles für den Menschen, wenn sie denn so grundlegend programmiert ist.

[Jörn P Budesheim]

Sag du's mir, ich habe das nicht behauptet.

Ich habe dich wörtlich zitiert!

[Burkart]

Dabei soll sie auch lernen, was rational sinnvoll ist, also auch mal Irrationalität von Menschen(gruppen) hinterfragen können zwecks Abfangens, Ausgleichens o.ä. ...und eben auch einen Trump bzw. seine Anhänger möglichst.

Hier wäre dann die Philosophie gefragt. Denn wenn man der Maschine beibringen will, zu lernen, was rational sinnvoll ist, stehen sofort viele philosophische Probleme im Raum, z.B.: was ist das eigentlich "Rationalität"? Denn vermutlich wird eine einfache Programmzeile wie [sei vernünftig!] nicht ausreichen

Vermutlich passt dazu dieser Faden: viewtopic.php?t=1842

Klar ist das nicht einfach. Aber ist es das denn für Menschen? Kindern mögen mit einer Lupe Ameisen o.ä. mit gebündleten Sonnenstrahlen bedrohen, bis man ihnen klar macht, dass das Leben ist, das man nicht einfach zerstören soll.
Ähnlich soll KI sehr viel lernen, sodass sich Aspekte zu "für Mensch" entwickeln können, viel durch Kommunikation mit uns, Beobachtungen in der Welt, ergänzt durch Abwägen und Vergleichen von Gelerntem usw.
Diese KI als alternative Intelligenz wird es nicht einfach haben, hat umgekehrt auch nicht unsere biologischen Bedürfnisse und Ängste (bis hin zum Tod), die sie beeinflussen und ggf. egoistisch handeln lassen.
Ein absolutes "rational" bzw. "Vernunft" gibt es mAn nicht, also hilft es nur sich ihr so zu nähern.

[Burkart]

Sag du's mir, ich habe das nicht behauptet.

Ich habe dich wörtlich zitiert!

Ich habe nicht geschrieben, dass die Ethikrat die KI angreift, oder?
Das war nur deine Interpretation, nicht meine Intention, siehe auch meinen vorigen Beitrag dazu.