Sollte man sich das nicht auch schon beim Bau der Atombombe gefragt haben? Vielleicht sogar bei den ersten Eisenbahnen, weil Menschen schnellere Geschwindigkeiten ja nicht aushalten würden...Jörn Budesheim hat geschrieben : ↑So 12. Jun 2022, 16:17Slavoj Žižek Hegel im verdrahteten Gehirn hat geschrieben : Den heutigen »posthumanen« Wissenschaften geht es nicht mehr um Beherrschung, sondern um Überraschung, um (kontingente, ungeplante) Emergenz. Jean-Pierre Dupuy stellt eine merkwürdige Umkehrung der traditionellen cartesianischen anthropozentrischen Arroganz fest, welche die menschliche Technik begründete, eine Umkehrung, die in der aktuellen Robotik, der Genetik, der Nanotechnologie und der Forschung in den Bereichen Künstliches Leben und Künstliche Intelligenz deutlich erkennbar ist:[16] Ist diese merkwürdige Tendenz zur Verwirklichung der Selbstvernichtung nicht eine seltsame und unerwartete Form dessen, was Freud den Todestrieb nannte? ...Wie können wir die Tatsache erklären, dass die Naturwissenschaft zu einem derartig »riskanten« Unterfangen geworden ist, dass sie nach Ansicht führender Wissenschaftler derzeitig die größte Bedrohung für das Überleben der Menschheit darstellt? Einige Philosophen antworten auf diese Frage, dass Descartes’ Traum – »Beherrscher und Besitzer der Natur zu werden« – sich zum Schlechten gewendet habe und wir dringend zur »Beherrschung der Beherrschung« zurückkehren sollten. Sie haben nichts verstanden. Sie erkennen nicht, dass die Technik, die sich durch die »Konvergenz« aller Disziplinen an unserem Horizont abzeichnet, gerade auf Nichtbeherrschung abzielt. Der Ingenieur von morgen wird kein Zauberlehrling aus Nachlässigkeit oder Unwissenheit sein, sondern weil er es will. Er wird sich komplexe Strukturen oder Organisationen »geben« und versuchen herauszufinden, was sie vermögen, indem er ihre funktionellen Eigenschaften erforscht – ein von unten nach oben verlaufender (Bottom-up) Ansatz. Er wird mindestens ebenso sehr ein Forscher und Experimentator wie ein Realisator sein. Sein Erfolg wird sich eher daran bemessen, inwieweit er von seinen eigenen Schöpfungen überrascht wird, als an der Übereinstimmung seines Werks mit einer Liste vorgefertigter Aufgaben.
Sicher kann neue Technik ein Risiko darstellen (auch nicht perfekt beherrscht zu werden), aber das eigentliche Risiko scheint mir der Mensch zu sein, aktuell vor allem Putin.
Ob ich bei der Entwicklung von KI wirklich mal überrascht werde... ich weiß nicht; überrascht wird man von sehr unerwarteten Dingen, das sehe ich hier nicht. Aber gut, für andere Menschen mag KI mal überraschend sein.