Künstliche Intelligenz

[NaWennDuMeinst]

Es gäbe vieles, worüber man intensiv nachdenken könnte oder auch müsste, aber ich sehe bei dir einfach immer nur Ausweichmanöver, nie mal einen etwas ausgefeilten Inhalt. Sei es nun technisch-mathematischer Art, neurowissenschaftlicher Art, ökonomischer Art, ethischer Art, psychologischer Art, sozialer Art, philosophischer Art. Spätestens wenn der Massageroboter deiner Frau die Brüste massiert, wirst du wissen, wie das mit Ethik und Moral beim Programmieren ist. Entweder, weil es deiner Frau unangenehm ist, oder weil du eifersüchtig bist. Was bedeuten würde, dass du auf ihn wie auf einen Menschen reagierst. Das heißt, du hast moralische Erwartungen an sein Verhalten.

Burkardt wird den Maschinen einfach Regeln für jede vorstellbare, moralische Verfehlung einprogrammieren.
Oder er wird sie sie lernen lassen.
Das wird dann wahlweise eine t ins Unendliche umfassende Programmierung oder Lernperiode... weil die Kisten eben nicht auf ihr eigenes, inneres Empfinden zurückgreifen können.
Willkommen im Märchenland.

[Burkart]

Mal ehrlich: Wenn jemand einen Autounfall auf sich zukommen sieht, wer denkt bitte lange darüber nach, wen er lieber erwischen möchte als jemand anderen?

Aus der Vermutung, dass du oder ich nicht nachdenken, ergibt sich nicht die Tatsache, dass ein Programmierer der KI nicht einprogrammieren muss: Immer ausweichen, immer draufhalten. Halt eins von beiden. Das erste bedeutet, sich selbst zu opfern, das zweite, den anderen totzufahren. Wenn du alleine im Auto sitzt. Aber das Auto braucht eine Programmierung, und dazu wird "man" sich Gedanken machen müssen, die erstens das Recht berücksichtigen, und zweitens ethische Aspekte. Der autonome Panzer auf dem Weg zur Front wird auf "alles überrollen" programmiert sein. Dein Auto vielleicht nicht.

Lassen wir den Panzer mal weg, sofern er auf Krieg bzw. kaputt machen eingestellt ist.
Mir wäre beim Auto am wichtigsten, dass es grundlegend versucht, jeglichen Schaden so gering wie möglich zu halten und dies entsprechend zu programmieren. Die meisten Situationen sind nicht so extrem, zwischen sich und Anderen entscheiden zu müssen. Insofern *muss* es nicht unbedingt eine ethische Programmierung beinhalten, um gut zu fahren.

Hab ihr euch jemals persönlich in so einer extremen Situation befunden, die absolut keinen Ausweg zwischen euch und Anderen bedeutet, ohne jegliche Kompromissmöglichkeit?

Aber ok, gehen wir davon aus, dass man auch eine ethische Komponente einbauen möchte. Dann ist das eigentliche Problem, wie diese Ethik aussieht. Wer also entscheidet datüber, was ethisch richtig und was falsch ist?
Ich kann mir sogar eine Gefahr einer solchen vorstellen, wenn diese nicht von allen Menschen getragen wird: So könnten Hersteller von "egoistischen Autos" mehr auf das Wohl ihrer Insassen bedacht sein, während andere Autos, z.B. billigere für "das kleine Volk" mehr altuistisch programmiert sind, um den Schaden Anderer zu vermeiden.
Also: Bevor man Autos mit Ethik programmiert, sollte vorher klar die Ethik geklärt sein, mit der sie programmiert werden - ansonsten führt es zu (noch mehr) Ungerechtigkeit. Oder sollte das jemand wollen oder zumindest gerne hinnehmen?

[Burkart]

Weil ich Ethik nicht gerade für eine wichtige KI-Aufgabe halte

Ja, das ist eben deine Immunisierungsstrategie. Du hälst einfach alles, von dem Du weißt dass KI dabei scheitern muss, für keine KI Aufgabe.
Wie billig.

Typisch NWDM, mal wieder persönlich werdend, na ja...

Ich sehe einfach hinsichtlich starker KI, dass es noch genug andere Probleme/Aufgaben zu lösen gibt, ohne die starke KI nicht hinreichend funktioniert.

[Burkart]

Hier in diesem Vortrag geht es um eine Reihe von Beispielen, wo beim Einsatz künstlicher Intelligenz ethische Probleme auftauchen, angefangen beim Staubsauger. Das Problem ist natürlich allgegenwärtig.

(Wenn ich solche Videos poste, bedeutet das nicht, dass ich mich den Autor:innen in allem anschließe.)

Dank dir für das Video. Das mit dem Marienkäfer und den Spinnen fand ich niedlich und es ist ja schön, wenn wir Menschen uns Gedanken darüber machen, wie bei (hier Computer-)Technik auch der Schutz von Tieren gedacht wird.

[Burkart]

Was für spießig-hedonistischen Phantasien?

Dass du KIs lediglich als praktische, der Bequemlichkeit der gutbürgerlichen Klasse dienende Helferlein konstruierst und alle Gedanken, die darüber hinausgehen, immer ignorierst oder abbügelst ins Halb-Frivole.

Sorry, aber das ist Quatsch, siehe z.B. mein "Falls du den Massageroboter meinst, dann stelle ich noch die geschickte KI an seine Seite zur effektiven Steuererklärung, zur guten Geldanlage, zur Planung meiner (z.B. regelmäßgen) Einkäufe usw." (gestern, 16:20). Selbstverständlich soll KI möglich jedem Menschen dienen.

Ganz davon abgesehen, dass ich auch nie Gedanken von dir lese, wem deine zukunftsvisinären (und bald realen) "Wesen" eigentlich gehören werden?

Das war bisher selten ein Thema. Ich hatte aber schon irgendwo auf Asimov hingewiesen, bei dem Roboter immer einer zentralen Gesellschaft gehören. Seine Idee ist, dass sie dadurch z.B. Einfluss auf deren Missbrauch behalten. Natürlich kann man auch die negative Seite sehen, dass sie damit auch die Kontrolle im negativen Sinn behalten.

Als ein Teil der Technik würde man wohl eher sagen, dass ein Roboter seinem Besitzer gehört, wie z.B. Roboter in Fabriken. Wenn jemand z.B. einen persönlichen Roboter kauft, ob nun vergleichbar eines Autos oder eher eines Teddys, würde man wohl auch erwarten, dass er seinem Käufer gehört. Dann würde ich auch erwarten, dass der Roboter voll seinem Eigentümer dient und nicht auch seinem Verkäufer/Hersteller, z.B. in dem der Roboter Daten übermittelt, die der Eigentümer nicht übermittelt haben möchte - solcher Missbrauch von Daten ist ja z.T. schon heute z.B. im Web ein Problem...

Im Augenblick gehören Tools wie LaMDA oder ChatGPT und alle ähnlichen Entwicklungen zu gut 70 % den USA, 15 % den Chinesen, und die Europäer spielen auf dem Markt keine Rolle. Man will wie die ZEIT meldet, jetzt ein Projekt in Deutschland starten und es mit einem Betrag unterstützen, der ungefähr dem Bau von 50 km Autobahn entspricht.

Ja, das ist ein Problem, was wir z.B. im Web-Bereich auch schon haben (Google, Facebook&Co auf der Seite der USA).

Es gäbe vieles, worüber man intensiv nachdenken könnte oder auch müsste, aber ich sehe bei dir einfach immer nur Ausweichmanöver, nie mal einen etwas ausgefeilten Inhalt. Sei es nun technisch-mathematischer Art, neurowissenschaftlicher Art, ökonomischer Art, ethischer Art, psychologischer Art, sozialer Art, philosophischer Art.

Dann hast du meine älteren Beiträge vielleicht nicht alle gelesen oder vergessen; z.B. hinsichtlich KI-Technik.

[Burkart]

Es gäbe vieles, worüber man intensiv nachdenken könnte oder auch müsste, aber ich sehe bei dir einfach immer nur Ausweichmanöver, nie mal einen etwas ausgefeilten Inhalt. Sei es nun technisch-mathematischer Art, neurowissenschaftlicher Art, ökonomischer Art, ethischer Art, psychologischer Art, sozialer Art, philosophischer Art. Spätestens wenn der Massageroboter deiner Frau die Brüste massiert, wirst du wissen, wie das mit Ethik und Moral beim Programmieren ist. Entweder, weil es deiner Frau unangenehm ist, oder weil du eifersüchtig bist. Was bedeuten würde, dass du auf ihn wie auf einen Menschen reagierst. Das heißt, du hast moralische Erwartungen an sein Verhalten.

Burkardt wird den Maschinen einfach Regeln für jede vorstellbare, moralische Verfehlung einprogrammieren.
Oder er wird sie sie lernen lassen.

Was ist deine Alternative? Das Gegenteil von Obigiem erscheint mir gar nichts zu tun. Wilst du das?

Das wird dann wahlweise eine t ins Unendliche umfassende Programmierung oder Lernperiode... weil die Kisten eben nicht auf ihr eigenes, inneres Empfinden zurückgreifen können.
Willkommen im Märchenland.

Das heißt dann also, dass der Einbezug von Moral in KI für dich Märchenland ist? (Dann bräuchte man sich mit dem Thema ja gar nicht mehr zu beschäftigen!?)

[Burkart]

Künstliche Intelligenz in der Justiz

Die künstliche Intelligenz (KI) gilt als Schlüsseltechnologie mit großem Potenzial. Eine allgemeingültige Definition des KI-Begriffes existiert allerdings (bisher) nicht. Abstrakt wird jedoch unterschieden zwischen einer „starken“ KI, die die gleichen intellektuellen Fertigkeiten wie der Mensch hat oder ihn darin sogar übertreffen kann und der „schwachen“ KI, die sich selbstoptimierend auf die Lösung konkreter Anwendungsprobleme auf Basis der Methoden aus der Mathe-matik und Informatik fokussiert. Nur ein Einsatz von Systemen letzterer Art ist bereits heute technisch möglich beziehungsweise innerhalb der nächsten Jahre realistisch. Anwendungsbeispiele schwacher KI sind etwa Sprach- und Bilderkennung, Software zur Simulation menschlichen Expertenwissens, Musteranalyse (maschinelles Lernen) sowie die Robotik. Derartige Anwendungen lassen sich auch für die Justiz nutzbar machen. Die Anwendung von KI in der Justiz stellt dabei einen Teilbereich des Sammelbegriffes „Legal Tech“ dar, unter dem der allgemeine Einsatz von Informationstechnik im juristischen Bereich verstanden wird.

Neben technischen und praktischen Herausforderungen ergeben sich beim Einsatz von KI in der Justiz auch ethische Spannungsfelder ...

Soweit, so gut, allerdings ein Kommentar zu dem von mir fett markierten Teil. Bei dem wird davon ausgegangen, dass (intellektuellen) Fertigkeiten nur etwas eindimensional Messbares sind, als ob man ihnen eine Zahl zuweisen könnte, sagen wir mit 0 = gar nicht und z.B 100 wie der Mensch sie haben möge.
Dem ist aber nicht so: Fähigkeiten sind sehr vielfältig und so kann eine KI in einem Bereich den Menschen stark überflügeln (z.B. mit 200, soweit eine Zahl bzw. Wert für die Einschätzung einer Fähigkeit überhaupt Sinn macht), auf dem anderen aber noch lange nicht erreicht haben (z.B. 50).
Diese Differenzierung sollte man nicht vergessen.

---
So, ich hoffe, ich bin auf alle Beiträge aus der letzten Vergangenheit eingegangen, sonst sprecht halt weiter DInge an; vielleicht schafft ihr es ja auch, ohne persönlich zu werden - Wink mit Zahnpfahl in die eine oder andere Richung (hier nicht in Jörns!)

[Burkart]

Sorry KI-Thread, da habe ich dich wohl ausversehen gestern mit meinem Antwort-Beiträgen verstopft
Nun ja, KI, da siehst du mal, wie kompliziert und unberechenbar die Menschen sind: Mal haben sie viel zu schreiben, mal gar nichts - ich wünsche dir, dass du das mal ausgeglichener kannst und nicht nur als ChatGPT

[NaWennDuMeinst]

Künstliche Intelligenz in der Justiz

Die künstliche Intelligenz (KI) gilt als Schlüsseltechnologie mit großem Potenzial. Eine allgemeingültige Definition des KI-Begriffes existiert allerdings (bisher) nicht. Abstrakt wird jedoch unterschieden zwischen einer „starken“ KI, die die gleichen intellektuellen Fertigkeiten wie der Mensch hat oder ihn darin sogar übertreffen kann und der „schwachen“ KI, die sich selbstoptimierend auf die Lösung konkreter Anwendungsprobleme auf Basis der Methoden aus der Mathe-matik und Informatik fokussiert. Nur ein Einsatz von Systemen letzterer Art ist bereits heute technisch möglich beziehungsweise innerhalb der nächsten Jahre realistisch. Anwendungsbeispiele schwacher KI sind etwa Sprach- und Bilderkennung, Software zur Simulation menschlichen Expertenwissens, Musteranalyse (maschinelles Lernen) sowie die Robotik. Derartige Anwendungen lassen sich auch für die Justiz nutzbar machen. Die Anwendung von KI in der Justiz stellt dabei einen Teilbereich des Sammelbegriffes „Legal Tech“ dar, unter dem der allgemeine Einsatz von Informationstechnik im juristischen Bereich verstanden wird.

Neben technischen und praktischen Herausforderungen ergeben sich beim Einsatz von KI in der Justiz auch ethische Spannungsfelder ...

Soweit, so gut, allerdings ein Kommentar zu dem von mir fett markierten Teil. Bei dem wird davon ausgegangen, dass (intellektuellen) Fertigkeiten nur etwas eindimensional Messbares sind, als ob man ihnen eine Zahl zuweisen könnte, sagen wir mit 0 = gar nicht und z.B 100 wie der Mensch sie haben möge.
Dem ist aber nicht so: Fähigkeiten sind sehr vielfältig und so kann eine KI in einem Bereich den Menschen stark überflügeln (z.B. mit 200, soweit eine Zahl bzw. Wert für die Einschätzung einer Fähigkeit überhaupt Sinn macht), auf dem anderen aber noch lange nicht erreicht haben (z.B. 50).
Diese Differenzierung sollte man nicht vergessen.

Das vergisst hier gar keiner. Im Gegenteil, darauf bezieht sich die meiste der Kritik die hier geäußert wird.
Intelligenz lässt sich eben nicht einfach nur in der Fähigkeit messen logische Operationen auszuführen.
Genau darum geht es.
Nur weichst Du dieser Kritik jedes Mal damit aus, dass Du die anderen Fähigkeiten, die zweifellos dazugehören, für unwichtig erklärst.
Und das (dieses Ausweichen) ist genau das Gegenteil von dem was Du hier in diesem Beitrag erklärst.

Eine starke KI ist kein Spezialist. Wenn sie als starke KI durchgehen will muss sie in vielen Feldern der Intelligenz bewandert sein.
Einfach nur richtig und schnell rechnen zu können reicht nicht. Man kann z.B. ethische Probleme nicht einfach ausrechnen.
Eine Ethik die nur auf Logik basiert wäre eine unmenschliche, kalte Ethik.

[Jörn Budesheim]

Man kann z.B. ethische Probleme nicht einfach ausrechnen.

Selbst wir, die es im Herzen angeht, haben in ethischen Fragen nicht immer eine glückliche Hand. Wenn wir selbst eine unserer Kernkompetenzen manchmal nicht im Griff haben, wie soll das eine Maschine können, die nicht einmal weiß, worum es überhaupt geht?

[Burkart]

Soweit, so gut, allerdings ein Kommentar zu dem von mir fett markierten Teil. Bei dem wird davon ausgegangen, dass (intellektuellen) Fertigkeiten nur etwas eindimensional Messbares sind, als ob man ihnen eine Zahl zuweisen könnte, sagen wir mit 0 = gar nicht und z.B 100 wie der Mensch sie haben möge.
Dem ist aber nicht so: Fähigkeiten sind sehr vielfältig und so kann eine KI in einem Bereich den Menschen stark überflügeln (z.B. mit 200, soweit eine Zahl bzw. Wert für die Einschätzung einer Fähigkeit überhaupt Sinn macht), auf dem anderen aber noch lange nicht erreicht haben (z.B. 50).
Diese Differenzierung sollte man nicht vergessen.

Das vergisst hier gar keiner. Im Gegenteil, darauf bezieht sich die meiste der Kritik die hier geäußert wird.
Intelligenz lässt sich eben nicht einfach nur in der Fähigkeit messen logische Operationen auszuführen.
Genau darum geht es.
Nur weichst Du dieser Kritik jedes Mal damit aus, dass Du die anderen Fähigkeiten, die zweifellos dazugehören, für unwichtig erklärst.
Und das (dieses Ausweichen) ist genau das Gegenteil von dem was Du hier in diesem Beitrag erklärst.

Wie kommst du auf die Idee, dass sie "zweifellos dazugehören", abgesehen von deiner subjektivem Empfindung? Wie begründest du sie hinsichtlich KI, ohne sie zu "vermenschlichen"?
Das ist die entscheidende Frage.

Eine starke KI ist kein Spezialist.

Sicher nicht.

Wenn sie als starke KI durchgehen will muss sie in vielen Feldern der Intelligenz bewandert sein.
Einfach nur richtig und schnell rechnen zu können reicht nicht.

Um richtig und schnell rechnen zu können, geht es bei starker KI nun wirklich nicht.

Man kann z.B. ethische Probleme nicht einfach ausrechnen.

Genauso wenig wie ein Mensch es kann.

Eine Ethik die nur auf Logik basiert wäre eine unmenschliche, kalte Ethik.

Sondern eben auch auf viel Wissen, Verständnis usw.

However, die entscheidende Frage(n) steht oben zu "zweifellos dazugehören".

[Burkart]

Man kann z.B. ethische Probleme nicht einfach ausrechnen.

Selbst wir, die es im Herzen angeht, haben in ethischen Fragen nicht immer eine glückliche Hand. Wenn wir selbst eine unserer Kernkompetenzen manchmal nicht im Griff haben, wie soll das eine Maschine können, die nicht einmal weiß, worum es überhaupt geht?

Warum soll man also so ein Thema mit einer Maschine besprechen wollen? Sollen die Menschen sich doch mal selbst darum kümmern und Maschinen/KI/Roboter das überlassen, was sie richtig können oder ggf. können werden.

[NaWennDuMeinst]

Wie kommst du auf die Idee, dass sie "zweifellos dazugehören"

Intelligenz ist die Fähigkeit Probleme zu lösen.
Ethische Probleme SIND Probleme. Und zwar hoch wichtige!
Und nun beantwortest Du mal eine Frage: Wie löst man ethische Probleme ohne Emotionen (z.B. Mitleid)?
Was wäre das Ergebnis einer rein auf Logik basierenden, emotionslosen Ethik wie sie sie im maximalen Fall deine Transistorkiste hinbekommt?
Würden wir dieses Ergebnis als akzeptabel anerkennen?
Sicher nicht.

[Lucian Wing]

Wie löst man ethische Probleme ohne Emotionen (z.B. Mitleid)?

Der Präferenzutilitarismus beispielsweise braucht kein Mitleid.
Auch sonst ist Mitleid keine notwendige Bedingung einer rationalen Ethik.

[sybok]

Wie löst man ethische Probleme ohne Emotionen (z.B. Mitleid)?

Zum Beispiel mit irgendwelchen an Ökonomie angelehnte Verfahren, vielleicht sowas wie Nutzenoptimierung. Für das Dilemma mit dem Auto, welches entscheiden soll, wen es totfährt, wäre etwas in die Richtung von "optimiere die Summe der zu erwartenden Lebensjahren der Überlebenden" denkbar.

In Introduction to Formal Philosophy wird ausgehend von Werttheorien (Axiologie) versucht, eine formalisierte Theorie von Ethik und moralischem Handeln aufzubauen. Leider kann ich aber auch nicht mehr dazu sagen, habe die Abschnitte (noch) nicht gelesen und mich auch nie damit beschäftigt.

Auch bezüglich Ethik könnte man meinem Eindruck nach wie bei Intelligenz mit gleicher Berechtigung die gegenteilige These vertreten, dass Gefühle schädlich sind. Ethik im modernen Rechtsstaat will doch genau in die Richtung von Formalisierung und Argumenten gehen, sowas wie die Frage nach legalen Abtreibungen oder Sterbehilfe wird in meiner Wahrnehmung versucht sozusagen analytisch zu entscheiden. Mit "Gefühle + Ethik" würde ich eher sowas wie Blutfeden oder Duelle um die Ehre verbinden.

[Burkart]

Wie kommst du auf die Idee, dass sie "zweifellos dazugehören"

Intelligenz ist die Fähigkeit Probleme zu lösen.

Probleme ja, aber nicht alle Probleme der Welt, insbesondere nicht die, für die es keine klare Lösung gibt, z.B. wie viel ein junger und wie viel ein alter Mensch relativ wert sind.

Ethische Probleme SIND Probleme. Und zwar hoch wichtige!

Und wie soll man die lösen, die nicht mal Menschen lösen können? Das kann doch gar nicht gehen.

Und nun beantwortest Du mal eine Frage: Wie löst man ethische Probleme ohne Emotionen (z.B. Mitleid)?

Meine beiden Vorschreiben um 23:xx Uhr haben sich dazu schon geäußert.
Meine Antwort: Mit intellektuellem Verstand, mit Lernen, was Menschen wollen u.ä.

Was wäre das Ergebnis einer rein auf Logik basierenden, emotionslosen Ethik wie sie sie im maximalen Fall deine Transistorkiste hinbekommt?
Würden wir dieses Ergebnis als akzeptabel anerkennen?
Sicher nicht.

Vergiss doch mal die Transistorebene und die der reinen Logik, die hier wirklich keine ausschließliche Rolle spielt. Wie oben geschrieben: Lernen, was Menschen wollen, was ihnen gefällt, halt mit Verstand und nicht Gefühl.

[Jörn Budesheim]

Zum Beispiel mit irgendwelchen an Ökonomie angelehnte Verfahren, vielleicht sowas wie Nutzenoptimierung. Für das Dilemma mit dem Auto, welches entscheiden soll, wen es totfährt, wäre etwas in die Richtung von "optimiere die Summe der zu erwartenden Lebensjahren der Überlebenden" denkbar.

"Wäre denkbar" und wie lautet die Begründung dafür, dass die zu erwartenden Lebensjahre den Unterschied machen sollen?

Diese und andere Ideen basieren darauf, dass es für ethische Entscheidungen so etwas wie einen Algorithmus gibt. Dafür ist allerdings kein Grund vorgelegt worden.

[Jörn Budesheim]

Präferenzutilitarismus

Erstens: In dem Begriff der Präferenz sind Emotionen "enthalten". Zweitens: wie genau lautet deine Begründung dafür, dass der Präferenz Utilitarismus eine korrekte Rekonstruktion der Moral ist, während es andere Positionen nicht sind?

[Burkart]

Zum Beispiel mit irgendwelchen an Ökonomie angelehnte Verfahren, vielleicht sowas wie Nutzenoptimierung. Für das Dilemma mit dem Auto, welches entscheiden soll, wen es totfährt, wäre etwas in die Richtung von "optimiere die Summe der zu erwartenden Lebensjahren der Überlebenden" denkbar.

"Wäre denkbar" und wie lautet die Begründung dafür, dass die zu erwartenden Lebensjahre den Unterschied machen sollen?

Die zu erwartenden Lebensjahre sind ja nur ein mögliches ethisches Kriterium, immerhin ein relativ leicht zu ermittelndes.
Die Begründung kann nur eine subjektive sein, das Kriterium wie wohl auch alle anderen können sinnvoll nur Menschen festgelegt werden (und eben nicht von KI).

Diese und andere Ideen basieren darauf, dass es für ethische Entscheidungen so etwas wie einen Algorithmus gibt. Dafür ist allerdings kein Grund vorgelegt worden.

Ethische Entscheidungen können von KI nur sinnvoll getroffen werden, wenn deren Kriterien von uns Menschen vorher festgelegt sind. Ein Algorithmus kann mAn nur bedeuten "schau auf die (i.a. gelernten, menschlichen) Kriterien und ermittele (d)eine Entscheidung darauf".

[Jörn Budesheim]

Die Begründung kann nur eine subjektive sein

Was meinst du mit "Begründung"?
Was meinst du mit "subjektiv"?
Was meinst du mit "subjektive Begründung"?