Abgesehen davon, dass sie so zahlreich sind, dass ich gar nicht wüsste, wo anzufangen, ist es auch ziemlich aussichtslos. Unsere Ethik basiert auf lauter "Dingen", die in der Natur gar nicht vorkommen, total vorurteilsgeneriert sind (wie auch anders?). Ein Programmierer kann somit bestenfalls im Sinne einer ausgefeilten semantischen Theorie wie Brandoms Inferentialismus eine Theorie der Normativität aus der Analyse sprachlicher Beziehungen herausfiltern und den KIs einprogrammieren. Ich nehme an, das könnte man offen programmieren, sodass sich die Änderungen, ablesbar an den Bedeutungsverschiebungen in der Kommunikation, in Echtzeit abbilden ließen. Zwei Dinge bleiben dann immer noch offen:
1. In sprachlichen normativen Strukturen stecken unsere Machtbeziehungen. Die Zulässigkeit, die Berechtigung zur Äußerung eines normativen Satzes, die sich aus seinen semantischen Beziehungen ergibt, impliziert auch immer bestimmte Machtverhältnisse. Die geltende Moral ist diejenige, die sich durchgesetzt hat. Außerhalb der Ebene des Rechts , wo es um in der Gesellschaft geltende Werte geht, gibt es unterschiedliche Ansichten darüber, wie weitreichend etwas gelten soll. Welche Position muss eine KI einnehmen in dieser gesellschaftlichen Diskussion?
2. Eine offen programmierte KI könnte transhumane, für Menschen nicht mehr verstehbare Dinge entwickeln. Was dann? Das Asimov'sche Gesetz ist doch völliger Blödsinn - als westliche Kulturen Amerika entdeckten, hätte kein Gesetz dieser Welt sie bremsen können, ihre aus ihren Möglichkeiten resultierende Überlegenheit zu nutzen.
Ich glaube, dass KIs eben ethische Fragen nicht wie Menschen auf der Basis von Mustern sondern von Probabilitäten entscheiden werden, wenn sie gegenüber intransparenten, vorurteilsschweren und immer stärker emotionalitätsgeladenen Entscheidungen bessere treffen sollen. Unsere Fehlerhaftigkeit, unsere moralischen Vorurteile zu eliminieren hieße aber letztlich tatsächlich, die Menschheit zu eliminieren. Denn entweder die KIs sind genau so fehlerhaft wie Menschen, oder sie sind besser als er. Dann aber braucht es Menschen nicht oder sie passen sich an die Vorgaben der KIs an.
Mich würde es interessieren. Ich käme in 100 Jahren gerne mal für ein paar Tage vorbei, um mir anzuschauen, was aus der Sache geworden ist.