Künstliche Intelligenz

[sybok]

Diese und andere Ideen basieren darauf, dass es für ethische Entscheidungen so etwas wie einen Algorithmus gibt. Dafür ist allerdings kein Grund vorgelegt worden.

Ethik ist ja nichts was wir in der Natur vorfinden, das ist unsere Erfindung, wir entscheiden. Ein Satz wie "dass es für ethische Entscheidungen so etwas wie einen Algorithmus gibt" macht mMn keinen Sinn, ob es den gibt oder nicht wird letztlich von uns entschieden.
Die Frage ist nach meiner Sichtweise nicht die Existenz, sondern ob wir mit dem jeweiligen Output zufrieden sind, ob die jeweiligen Normen für ein Gemeinschaftswesen nach unseren Vorstellungen taugen. So etwas wie der kategorische Imperativ ist beispielsweise ja schon halb als Algorithmus formuliert: "Handle nur nach derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.", "Maxime", "allgemeines Gesetz", das klingt für mich mehr nach einem Versuch einer Formalisierung als es auf Gefühlen basierend zu formulieren.

Was meinst du mit "Begründung"?
Was meinst du mit "subjektiv"?
Was meinst du mit "subjektive Begründung"?

Wenn gefragt wurde "was meinst du mit..." / "was bedeutet genau...", dann ging es jeweils um Dinge, von denen Wissen um deren Natur behauptet wurde bei zentralen Begriffen der Debatte. Da ging es nicht um rhetorische Ablenkungsversuche oder "Tricks" sondern um das Fundament der Diskussion. Behauptungen wie "es braucht Gefühle für Intelligenz" oder "Ethik ist nicht algorithmisch entscheidbar" suggerieren, dass man genau weiss, wovon man spricht, dann muss man sich über die Natur der verwendeten Begriff im klaren sein und hochlevelige Alltagsanekdoten in Alltagssprache reichen doch nicht für Begründungen hinsichtlich technischer Möglichkeiten. Und auf diesem Stand sind negative Aussagen schärfer.

[Jörn Budesheim]

Ethik ist ja nichts was wir in der Natur vorfinden, das ist unsere Erfindung, wir entscheiden.

Soll das folgendes heißen: "Weil Ethik nichts ist, was wir in der Natur vorfinden, ist sie unsere Erfindung, wir entscheiden."
Falls ja, wie sieht es mit folgendem aus: "Weil Mathematik und Logik nichts sind, was wir in der Natur vorfinden, sind sie unsere Erfindung, wir entscheiden." Daraus, dass wir etwas nicht "in der Natur vorfinden", folgt nicht, dass es unsere Erfindung ist und wir entscheiden.

[sybok]

Falls ja, wie sieht es mit folgendem aus: "Weil Mathematik und Logik nichts sind, was wir in der Natur vorfinden, sind sie unsere Erfindung, wir entscheiden." Daraus, dass wir etwas nicht "in der Natur vorfinden", folgt nicht, dass es unsere Erfindung ist und wir entscheiden.

Finden wir Mathematik denn tatsächlich nicht in der Natur vor? Das ist kompliziert, aber ich würde sagen, dass es nicht das Gleiche ist: Wenn ich der einzige Mensch wäre und einsam auf diesem Planeten umherwandle, sähe ich keine Ethik, aber ein Apfel ist trotzdem nicht zwei Äpfel.
Aber ja, Mathematik ist nach meiner Sichtweise eine Sprache und als solche - ich folge da Tao (oder Lurie, bin nicht mehr sicher) - hat sie tendenziell eher den Charakter von Erfindung.

"Daraus, dass wir etwas nicht "in der Natur vorfinden", folgt nicht, dass es unsere Erfindung ist und wir entscheiden."
Nein? Wenn nicht von der Natur vorgegeben und nicht von uns festgelegt, wer entscheidet dann?

[Jörn Budesheim]

Wenn ich der einzige Mensch wäre und einsam auf diesem Planeten umherwandle, sähe ich keine Ethik

Warum nicht? In der Ethik geht es auch um das gute Leben. Wenn du der einzige Mensch wärst, würdest du dich vielleicht fragen, wer du bist, wer du sein willst und was du dir selbst schuldest. Außerdem betreffen ethische Fragen nicht nur unsere Mitmenschen, sondern auch Flora und Fauna ...

"Daraus, dass wir etwas nicht "in der Natur vorfinden", folgt nicht, dass es unsere Erfindung ist und wir entscheiden."
Nein? Wenn nicht von der Natur vorgegeben und nicht von uns festgelegt, wer entscheidet dann?

Niemand. Niemand entscheidet zum Beispiel, dass man kleine Kinder nicht zum Spaß foltern soll.

[Burkart]

Die Begründung kann nur eine subjektive sein

Was meinst du mit "Begründung"?
Was meinst du mit "subjektiv"?
Was meinst du mit "subjektive Begründung"?

SIehe dein Text: "die Begründung dafür, dass die zu erwartenden Lebensjahre den Unterschied machen sollen?"
Ich wollte darauf hinaus, dass man es so oder auch anders sehen kann (=subjektiv), dass junge Menschen durch mehr zu erwartende Lebensjahre ethische Priorität haben sollen.

[sybok]

Ich könnte ja dann alles ad hoc nach Lust und Laune entscheiden und es gäbe keine übergeordnete Instanz: Heute reisse ich der Fliege die Flügel aus, morgen fackle ich den Wald ab, übermorgen versorge ich das verletzte Reh. Ich muss dann ja nicht konsistent sein und kann willkürlich handeln.

Die gesellschaftlichen Normen verbieten mir also nicht, Kinder zum Spass zu foltern? Entscheiden nicht "wir", als menschliche Gesellschaft, welchen ethischen Normen man folgen soll und muss?

[Jörn Budesheim]

es gäbe keine übergeordnete Instanz

Die gibt es nie. Dass übergeordnete Instanzen in der Ethik zu nichts führen, ist eigentlich gut bekannt. Sie scheitern allesamt an einem einfachen Argument. Erlässt die übergeordnete Instanz die "moralischen Regeln", weil sie richtig sind? Oder sind diese Regeln richtig, weil sie von dieser Instanz erlassen wurden? Im ersten Fall ist der Bezug auf die Instanz bedeutungslos, es genügt der Bezug auf das Richtige. Im zweiten Fall wäre Moral unmoralisch, weil sie die Instanz nach Belieben setzen könnte, das wäre eine Form der Tyrannei.

Nachtrag: In welchem Bereich braucht man eigentlich eine übergeordnete Instanz, um herauszufinden, was der Fall ist? Mag sein, dass das vorkommt, auch wenn mir gerade nichts einfällt, es ist aber sicher nicht die Regel. Woher kommt also diese Forderung nach einer übergeordneten Instanz?

[Jörn Budesheim]

Entscheiden nicht "wir", als menschliche Gesellschaft, welchen ethischen Normen man folgen soll und muss?

Nein. Sonst wäre es nämlich richtig, dass die Taliban Mädchen Bildung vorenthalten.

[Lucian Wing]

Präferenzutilitarismus

Erstens: In dem Begriff der Präferenz sind Emotionen "enthalten". Zweitens: wie genau lautet deine Begründung dafür, dass der Präferenz Utilitarismus eine korrekte Rekonstruktion der Moral ist, während es andere Positionen nicht sind?

Emotionen zu haben bedeutet aber nicht, notwendigerweise Mitleid zu haben.
Die Frage verstehe ich nicht. Ich hatte den nur als ein Beispiel dafür genannt, dass man Mitleid nicht braucht, um eine Ethik zu basteln (ohne den Präferenzutilitarismus deshalb vertreten zu wollen). Singer-Anhänger erklären ja gerne, dass man Leid und Wohlbefinden objektiv bestimmen können, also ist für sie Mitleid keine notwendige Voraussetzung für Ethik. Und ehrlich gesagt brauche ich auch kein Mitleid mit den Armen, um zu erkennen, dass bestimmte Gleichheits- oder Gerechtigkeitsüberlegungen vernünftig sein können. Rawls Modell der Gerechtigkeit basiert auch nicht auf Überlegungen, die Mitleid oder überhaupt Emotionen in den Mittelpunkt stellen.

@sybok

Die Idee mit der Summe der Lebensjahre ist prekär. Da verlierst du immer, wenn im anderen Auto zwei Alte sitzen und du alleine fährst. Kommt dazu, dass unser Recht diese Art der quantitativen Aufrechnung mit Blick auf den Würdebegriff verbietet.

[Jörn Budesheim]

Ich wollte darauf hinaus, dass man es so oder auch anders sehen kann (=subjektiv), dass junge Menschen durch mehr zu erwartende Lebensjahre ethische Priorität haben sollen.

Ich verstehe nicht, warum man das "subjektiv" nennen sollte.

Warum sollte es überhaupt ein "Grund" sein, wenn man es so, aber auch anders sehen kann? Wenn "mehr zu erwartende Lebensjahre" ebenso ein "Grund" sein soll wie "mehr Lebenserfahrung", dann gibt es gerade keinen Grund, der eine Entscheidung stützt, dann könnte ich ebenso würfeln

[Jörn Budesheim]

Wie löst man ethische Probleme ohne Emotionen (z.B. Mitleid)?

notwendigerweise Mitleid

NaWennDuMeinst hat ein Beispiel für eine Emotion gegeben.

"Emotionen zu haben bedeutet aber nicht, notwendigerweise Mitleid zu haben." Schreibt nwdm das, wenn er Mitleid als ein Beispiel angibt? Was ist der Kontext der Diskussion? Den Maschinen fehlen die Emotionen, deswegen können sie zum Beispiel keine ethischen Entscheidungen treffen. Un din diesem Kontext fragt nwdm: "Wie löst man ethische Probleme ohne Emotionen?"

[sybok]

Die Idee mit der Summe der Lebensjahre ist prekär. Da verlierst du immer, wenn im anderen Auto zwei Alte sitzen und du alleine fährst. Kommt dazu, dass unser Recht diese Art der quantitativen Aufrechnung mit Blick auf den Würdebegriff verbietet.

Verstehe ich, aber trotzdem muss in der konkreten Situation eine Entscheidung getroffen werden. Ich sehe das so:
-- Entweder entscheide ich nach festgelegten Kriterien. Dann hab ich es, durch die Angabe der Kriterien, ja aber schon halb formalisiert und kann es sicherlich auch in Algorithmen giessen.
-- Ich entscheide zufällig. Dann kann ich aber auch das Computersystem eine Münze werfen lassen.
-- Ich entscheide willkürlich nach meinem momentanen Empfinden, dann ist es aber keine Theorie "Ethik" mehr, dann ist es halt ja eben Willkür.
So oder so, ich sehe keinen Grund warum man das Rechnern absprechen muss.

Nachtrag: In welchem Bereich braucht man eigentlich eine übergeordnete Instanz, um herauszufinden, was der Fall ist? Mag sein, dass das vorkommt, auch wenn mir gerade nichts einfällt, es ist aber sicher nicht die Regel. Woher kommt also diese Forderung nach einer übergeordneten Instanz?

Du kannst ja nicht behaupten, die Sonne scheine blau, 5=1 oder dass du ein Känguru bist. Die Natur ist meist die übergeordnete Instanz.
Im Falle der Ethik ist doch sicher die Gesellschaft in der man sich bewegt die übergeordnete Instanz, das Beispiel mit den Taliban zeigt doch genau das...:

Sonst wäre es nämlich richtig, dass die Taliban Mädchen Bildung vorenthalten.

Und warum ist das falsch? Wenn es keine Instanz und kein Entscheidungsverfahren gibt, kannst du auch nicht sagen, dass dieses oder jenes Verhalten / Regelwerk falsch ist (höchstens wenn du dich irgendwie auf Gott oder sowas berufen würdest).
Und da sieht man doch, dass Ethik letztlich durch die Gesellschaft erzwungen wird, das gemeinschaftliche Leben zu regeln ist doch überhaupt ihre Existenzberechtigung. Du kannst ja nicht nach Afghanistan reisen und ohne nach Rechts und Links zu blicken mit dem Bau von Mädchenschulen beginnen, die Gesellschaft wird sich dann früher oder später einschalten und ihre Vorstellungen von Ethik erzwingen.

[Jörn Budesheim]

Entscheiden nicht "wir", als menschliche Gesellschaft, welchen ethischen Normen man folgen soll und muss?

Nein. Sonst wäre es nämlich richtig, dass die Taliban Mädchen Bildung vorenthalten.

Und warum ist das falsch? Wenn es keine Instanz und kein Entscheidungsverfahren gibt, kannst du auch nicht sagen, dass dieses oder jenes Verhalten / Regelwerk falsch ist (höchstens wenn du dich irgendwie auf Gott oder sowas berufen würdest).

Willst du sagen, dass es vom Entscheidungsverfahren abhängt, ob es richtig ist, dass den Mädchen die Bildung vorenthalten wird? Dann wäre es gemäß deiner Vorstellung allerdings richtig, sie ihnen vorzuenthalten. Das Entscheidungsverfahren besteht darin, dass man die religiösen Führer der Taliban fragt. Richtig ist einfach, was sie festlegen.

Du unterscheidest in deiner Formulierung zwei Dinge nicht klar, scheint mir: (a) was der Fall ist und (b) wie man es herausfindet. Wir kommen hier nicht zusammen, weil du als Nihilist nicht denkst, dass bei moralischen Fragen etwas der Fall ist. An diese Stelle treten dann Entscheidungsverfahren oder etwas, was wir setzten. Dann musst du jedoch akzeptieren, dass es richtig ist, dass Mädchen nicht zur Schule dürfen, schließlich wurde das in einem geregelten Entscheidungsverfahren so festgelegt.

[Jörn Budesheim]

Du kannst ja nicht behaupten, die Sonne scheine blau, 5=1 oder dass du ein Känguru bist. Die Natur ist meist die übergeordnete Instanz.

Wenn ich untersuche, in welcher Farbe die Sonne scheint, dann ist die Natur nicht die übergeordnete Instanz, sondern, das, was untersucht wird. Ich frage ja nicht, die Gesellschaft, Gott oder die Taliban, welche Farbe die Sonne hat.

[Jörn Budesheim]

Verstehe ich, aber trotzdem muss in der konkreten Situation eine Entscheidung getroffen werden. Ich sehe das so:
-- Entweder entscheide ich nach festgelegten Kriterien. Dann hab ich es, durch die Angabe der Kriterien, ja aber schon halb formalisiert und kann es sicherlich auch in Algorithmen giessen.
-- Ich entscheide zufällig. Dann kann ich aber auch das Computersystem eine Münze werfen lassen.
-- Ich entscheide willkürlich nach meinem momentanen Empfinden, dann ist es aber keine Theorie "Ethik" mehr, dann ist es halt ja eben Willkür.
So oder so, ich sehe keinen Grund warum man das Rechnern absprechen muss.

Glaubst du, die Möglichkeiten, die du in Erwägung ziehst, sind vollständig?

[Jörn Budesheim]

Entweder entscheide ich nach festgelegten Kriterien ...

Nach welchen Kriterien werden diese Kriterien bestimmt? Nach welchen Kriterien werden wiederum diese Kriterien festgelegt? Usw. Hier kommt man in einen unendlichen Regress. Sodass die Kriterien in der Luft schweben, sie sind dann nicht besser als etwas Gewürfeltes.

[sybok]

Entscheiden nicht "wir", als menschliche Gesellschaft, welchen ethischen Normen man folgen soll und muss?

Nein. Sonst wäre es nämlich richtig, dass die Taliban Mädchen Bildung vorenthalten.

Ja aber nochmals die Frage, wie kommst du zum Schluss, dass dies falsch ist, wie hast du dein Urteil gebildet?

Willst du sagen, dass es vom Entscheidungsverfahren abhängt, ob es richtig ist, dass den Mädchen die Bildung vorenthalten wird? Dann wäre es gemäß deiner Vorstellung allerdings richtig, sie ihnen vorzuenthalten. Das Entscheidungsverfahren besteht darin, dass man die religiösen Führer der Taliban fragt. Richtig ist einfach, was sie festlegen.

Ja, aus der Sicht der Taliban ist es ja auch richtig, man kann ja nicht einfach die Vorstellung von Ethik unseres Kulturkreises zur universellen und allgemeingültigen Wahrheit erklären. Mit welchem Recht willst du sagen, dass falsch ist, was sie tun?
Die Sichtweise mit dem Entscheidungsverfahren ("religiöse Führer") liefert aber einen vernünftigen "Angriffspunkt".

[Jörn Budesheim]

Ja aber nochmals die Frage, wie kommst du zum Schluss, dass dies falsch ist, wie hast du dein Urteil gebildet?

Ja, aber noch einmal die Frage: Wie kommst du zu dem Schluss, dass du jemandem, der am Straßenrand liegt und offensichtlich verletzt ist, im Rahmen deiner Möglichkeiten helfen solltest? Wie hast du dir dein Urteil gebildet?

Wie kommst du zu dem Schluss, dass du andere nicht anrempelst, zur Seite schiebst oder eiskalt niederschlägst, wenn du in der Stadt durch eine Menschenmenge gehst? Wie hast du dir dein Urteil gebildet?

[Jörn Budesheim]

Du stellst immer Fragen, die, ohne es zu begründen, davon ausgehen, dass die Ethik in irgendeiner Weise von "außen" gestützt werden muss: Durch irgendwelche Kriterien, die ihr vorausgehen oder durch höhere Instanzen oder was auch immer. Du erklärst aber nicht, warum das deiner Meinung nach so sein muss.

(Dass diese Dinge ihrerseits eine Stütze von außen brauchen und so weiter, das habe ich ja schon gesagt).

[Jörn Budesheim]

Die Sichtweise mit dem Entscheidungsverfahren ("religiöse Führer") liefert aber einen vernünftigen "Angriffspunkt".

Warum? Man hat ein Entscheidungsverfahren und man hat Kriterien, das hast du doch gefordert, oder? Das Problem für dich an der Stelle ist, dass du hier nicht die Möglichkeit hast, nach einem richtigen Entscheidungsverfahren und nach richtigen Kriterien zu fragen. Denn das Richtige soll sich ja aus diesen Dingen erst ergeben. Man muss sich also mit irgendwelchen Entscheidungsverfahren (z.B.: die Taliban entscheiden) und irgendwelchen Kriterien (z.B.: was geschrieben steht) begnügen.

Und da scheitert dieser Gedanke einfach, finde ich.