Moral Machine: Umfrage ethisches Dilemma

[Stefanie]

Wenn es um das automatische Autofahren geht, stellen sich vielfältige ethisches Fragen.
Hier wurde dazu eine weltweite Umfrage erstellt.
http://moralmachine.mit.edu/hl/de

Nun sind die ersten Ergebnisse veröffentlich worden.

http://www.maz-online.de/Nachrichten/Wi ... -reagieren

Es wird auch auf das sog. Trolley-Problem verwiesen, welches wir hier auch schon diskutiert hatten.
https://www.dialogos-philosophie.de/vie ... f=55&t=207

Interessant finde ich hier die Kritikpunkte, die vorgebracht werden.
Aus dem Zeitungsartikel:
"Sie findet das Ziel der Autoren grundsätzlich richtig, eine Debatte über die ‚ethische Programmierung‘ von selbstfahrenden Autos anzustoßen, bevor diese auf Straßen fahren. „Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht.“
"Mit den Menschenrechten gebe es bereits rechtlich bindende ethische Prinzipien, die zentrale universale Werte schützen, wie das Recht auf Leben und das Verbot von Diskriminierungen. Gerade gegen diese Prinzipien verstießen die veröffentlichten Ergebnisse, weil sie menschliches Leben nach Art und Qualität unterschieden. Menschenrechtlich sei dies nicht haltbar."

[novon]

Das ganze Ding scheint mir nichts weiter als ein Witz. Einer etwaigen AI wäre zunächst mal lediglich ein einziges, wesentliches Kriterium zugrunde zu legen: Je unübersichtlicher, desto langsamer. Unter dieser Maxime würden sich sämtliche Szenarien, die das MIT da präsentiert, vollkommen hinfällig. Das Zeugs ist vollständig dämlich konstruiert. Hoffentlich sind Programmierer cleverer, als die Pfosten, die das ins Netz gestellt haben.

[Stefanie]

Deine Kritik habe ich ehrlich nicht verstanden.

[Jörn Budesheim]

Novon scheint zu glauben, dass man die selbstfahrenden Autos so programmieren könnte, dass sie erst gar nicht in solche Dilemma Situation geraten.

[novon]

Novon scheint zu glauben, dass man die selbstfahrenden Autos so programmieren könnte, dass sie erst gar nicht in solche Dilemma Situation geraten.

Yupp. *g

[Stefanie]

Aha. Können die Programmierenden in die Zukunft schauen, und eine konkrete Situation vorausschauen?

[novon]

Aha. Können die Programmierenden in die Zukunft schauen, und eine konkrete Situation vorausschauen?

Nein.
Was möglich ist, schiene mir, algorithmisch einen Faktor zu bestimmen, der quasi die Qualität der je zur Verfügung stehenden Entscheidungsmöglichkeiten dahingehend eingrenzt, inwiefern mit nicht berechenbaren, nicht regelmäßigen Situationen zu rechnen wäre. Sprich: Desto unübersichtlicher (unberechenbarer), desto brems.

[Jörn Budesheim]

Die Wahrscheinlichkeit, dass wir selbstfahrende Autos entwickeln und programmieren können, die keine Unfälle bauen, schätze ich auf ungefähr 0%. Meines Erachtens ist es vollkommen notwendig, bei der Programmierung von selbstfahrenden Autos ethisch relevante Fragen zu diskutieren, dazu gehört natürlich auch solche Dilemmasituation. Daran wird in der Zukunft zunehmend kein Weg vorbeiführen, da wir mehr und mehr Maschinen verschiedene Dinge tun lassen, die von ethischer Relevanz sind.

[novon]

@Jörn
Meine Einlassung hier ist ethisch gegründet: Entscheidungen können lediglich im Rahmen hinreichender Informationen getroffen werden. Was etwaigen "Programmieren" aufzuerlegen wäre, wäre Kriterien zu bestimmen, inwieweit hinreichende Daten vorliegen könnten - oder auch nicht - und in entsprechenden Situationen die entsprechenden Algorithmen eben entsprechend agieren zu lassen.
Ein solches Agieren zugrunde gelegt, stellte sich niemals die Frage, was denn nun niederzurasen ethisch akzeptabel sein könnte oder nicht. Im Zweifel bleibt die Karre einfach stehen, bis der ((hoffentlich) ethisch befähigte) Insasse autonom die Steuerung des Fahrzeugs in die eigenen Hände nimmt. (Im übrigen wäre bezüglich Daten nach oben ja noch so einiges offen, z. B. ad hoc Vernetzung der Daten sämtlicher Fahrzeuge in einem gewissen Umkreis... So dass z. B. am Straßenrand parkende Fahrzeuge Daten über im Umfeld stattfindende Geschehnisse, wie z. B. spielende Kinder etc... den Fahrzeugen im laufenden Verkehr mitteilen könnten, etc...)
Und nachwievor wären die einzigen, die irgendwie ethisch agieren, diejenigen, die das alles letztlich irgendwie algorithmisch fassen und Maschinen entsprechend konstruieren - sprich programmieren -.

[Jörn Budesheim]

Dennoch wird es zu solchen Unfallsitutionen kommen und darauf muss die Maschine vorbereitet sein, falls das geht. Klar sind die Ingenieure angehalten, solche Situationen zu vermeiden, aber es ist extrem unrealistisch und widerspricht jeder Erfahrung, zu glauben, dass das genügt.

[novon]

Dennoch wird es zu solchen Unfallsitutionen kommen und darauf muss die Maschine vorbereitet sein, falls das geht. Klar sind die Ingenieure angehalten, solche Situationen zu vermeiden, aber es ist extrem unrealistisch und widerspricht jeder Erfahrung, zu glauben, dass das genügt.

Okay, wie du meinst. Denn formuliere ich es halt nochmal als Erstes Novonsches Gesetz autonomer Mobilität:
Desto unschärfer, desto brems. (Fuzzy)
Zielsetzung: Vermeiden, möglichst ausschließen, von Situationen, in denen ein inakzeptabler Schaden nicht vermieden werden könnte.
(Ich sehe ja ein, das etwaige Kritiker autonomer Automobilität gerne auf sowas wie hier angeführt aufsatteln möchten... Das mit dem "Entscheiden" sähe ich aber, wie gesagt, nicht als das eigentliche Problem.)

Btw.: Ich hab den Test mal durchgezogen, und bekam am Ende sinngemäß mitgeteilt: "Sie würden präferieren Frauen, ältere Menschen und Kinder zu opfern."... oO
Was ist das für ein Zeugs, was ich da rauchen soll? (Erinnert mich irgendwie an radikale Abtreibungsgegner oder so...)

[Jörn Budesheim]

Ich verstehe nicht, was du sagen willst. Zu versuchen, Unfälle zu vermeiden und darüber nachzudenken, wie man handeln soll, wenn sie denn noch eintreten, ist für mich kein Gegensatz oder was auch immer. Die Titanic war eben doch nicht unsinkbar.

[Stefanie]

Ich hatte diese Test angefangen, aber dann aufgegeben. Mir war es in dieser Testsituation nicht möglich, eine Wahl zu treffen.gerade in der Situation, wo niemand im Auto sitzt. Ich hatte mir immer vorgestellt, was ich als Fahrerin mache würde. Bzw. wie ich hoffe, zu reagieren. Die Reaktionszeit dürfte so sein, dass ich gar keine Auswahl gezielt treffen kann.
So viele brenzlige Situationen beim Autofahren als Fahrerin hatte ich noch nicht. Aber wenn, war die Reaktion auf die Bremse zu treten, oder auszuweichen. Völlig ohne darüber nachzudenken, ob mir jetzt jemand hinten drauf fährt, oder beim ausweichen irgendwo gegen fahre. Ich glaube, es ist ein menschlicher Reflex, keine anderen Menschen zu schaden. Beigebracht wird einem auch, dass man mit dem Auto derjenige ist, von dem die größte Gefahr ausgeht. Du willst nur in solchen Situationen, dass es gut ausgeht. Das schließt die fahrende Person mit ein.

In einem der Artikel wurde gesagt, wir sollten keine neue Ethik einführen, nur weil wir eine neue Technik haben. Ich behaupte mal, dass niemand in dieser Situation anfängt nachzudenken, wer da vor einem auftaucht, sondern er sieht nur den Menschen, und den will man nicht tot fahren, und entscheidet sich dafür, alles zu tun, damit dies nicht passiert.

Was Ich damit sagen will, ist, dem selbstfahrende Auto muss beigebracht werden, jeden Menschen zu retten, und keine Unterscheidungen wie in dem Test zu machen.

[novon]

Ich verstehe nicht, was du sagen willst. Zu versuchen, Unfälle zu vermeiden und darüber nachzudenken, wie man handeln soll, wenn sie denn noch eintreten, ist für mich kein Gegensatz oder was auch immer. Die Titanic war eben doch nicht unsinkbar.

Und ich womöglich nicht, worauf du hier konkret hinaus willst. Die angesprochene Problematik kreist hier doch offenbar darum, dass irgendein autonomes System mit Affenzahn durch die Gegend rast und irgendwann feststellt: "Upps, bremsen schaff ich offenbar nicht mehr... Wen darf ich nun - ethisch gerechtfertigt latürnich - mal eben platt machen?!?"... Nur Unsinn oder vielleicht doch Quadratnonsens...?!?
Novons Erstes Gesetz autonomer Mobilität könnte verdeutlichen, wo es hier, ganz allgemein, bei der vorgezeigten Herangehensweise zwickt, ziept, hakt und klemmt. Sprich: Besser Hausaufgaben machen, statt Pseudoproblematiken vor sich her zu schieben... (oder so).
(Zwischen 0 und 50 km/h gibt es quasi keinen Bremsweg, da regiert uneingeschränkt die Reaktionszeit. Trete ich auf's Pedal, steht die Karre bei mir. Sofort. Sollte bei AI auch funktionieren.)

[Stefanie]

Vielleicht machen wir alle erstmal sowas wie ein Fahrsicherheitstraining, um festzustellen, dass es eine Reaktionszeit und einen Bremsweg gibt. Die Reaktionszeit könnte bei einem Computer kürzer ausfallen, aber der Bremsweg bleibt. Das Auto bleibt auch bei 50 kmh nicht sofort stehen.

[novon]

Vielleicht machen wir alle erstmal sowas wie ein Fahrsicherheitstraining, um festzustellen, dass es eine Reaktionszeit und einen Bremsweg gibt. Die Reaktionszeit könnte bei einem Computer kürzer ausfallen, aber der Bremsweg bleibt. Das Auto bleibt auch bei 50 kmh nicht sofort stehen.

Wie lang ist denn der Bremsweg bei 50 km/h? (Z. B. dahingehend gefragt, ob tatsächlich irgendwie eine Entscheidung infrage stünde, in die eine oder andere Menschenmenge zu rasen...)

[Stefanie]

Bremsweg Berechnung

https://www.bussgeldkatalog.org/bremsweg/

[novon]

Bremsweg Berechnung

https://www.bussgeldkatalog.org/bremsweg/

Da scheint eine Reaktionsgeschwindigkeit (fraglich welche genau) bereits eingerechnet zu sein (25m bei 50 km/h scheint mir eine Reaktionszeit von min. 10 Sek. einzurechnen... Komisches Zeugs). Punkt im bisherigen Kontext wäre aber ja nachwievor, inwiefern denn nun im Falle des Falles irgendwie notwendig wäre, zu entscheiden welche Gruppe von Menschen man denn nun platt macht und welche nicht. Wie weit hergeholt ist das denn...?!? Realitätsfremd ist das allemal. (Der Rest geht dann auf Ideologie.)