Kaffeestübchen

[Jörn Budesheim]

Den Turing-Test halte ich für witzlos, weil er nicht ermittelt, ob die Maschine intrinsisch intelligent ist, sondern nur, ob der Programmierer raffiniert genug war, ein Modell des Denkens bzw. der Intelligenz zu programmieren. Und der Test ist noch nicht mal sehr anspruchsvoll, weil es durch den Versuchsaufbau - Computer und Tester sind schließlich getrennt voneinander - gar nicht möglich ist, zu triangulieren, sich also im Gespräch auf eine gemeinsame Umwelt zu beziehen, um zu sehen, ob der Proband die geistigen Bewegungen mitvollziehen kann und gar eigene geistige Bewegung an den Tag legen kann.

Und selbst diese niedrige Latte hat bisher nach meinem Wissen noch jedes Programm gerissen.

[Jörn Budesheim]

Ob das nun daran liegt, dass sie ...

Es liegt meistens daran, dass sie die Sache sehr gut durchdacht haben und sehr starke Argumente vortragen. Aber - wie nahezu immer in der Philosophie - gibt es sicherlich auch gute Argumente, die für eine starke KI sprechen. Da du dich weigerst, sie vorzutragen, wollte ich mal nachsehen, was tatsächlich im Angebot ist.

[Burkart]

Den Turing-Test halte ich für witzlos, weil er nicht ermittelt, ob die Maschine intrinsisch intelligent ist, sondern nur, ob der Programmierer raffiniert genug war, ein Modell des Denkens bzw. der Intelligenz zu programmieren. Und der Test ist noch nicht mal sehr anspruchsvoll, weil es durch den Versuchsaufbau - Computer und Tester sind schließlich getrennt voneinander - gar nicht möglich ist, zu triangulieren, sich also im Gespräch auf eine gemeinsame Umwelt zu beziehen, um zu sehen, ob der Proband die geistigen Bewegungen mitvollziehen kann und gar eigene geistige Bewegung an den Tag legen kann.

Man kann sich doch eine gemeinsame Umwelt vorstellen, sich ein gemeinsames Modell aufbauen. Auf dieser kann man sich dann beliebig geistig bewegen.

Und selbst diese niedrige Latte hat bisher nach meinem Wissen noch jedes Programm gerissen.

Das ist absolut keine niedrige Latte. Vielmehr ist die Idee ja, dass beim Bestehen des Mensch-KI -Tests durch die KI die KI als hinreichend intelligent wie der Mensch angesehen werden kann, im Sinne der Blackbox-Ansicht halt.

[Burkart]

Ob das nun daran liegt, dass sie ...

Es liegt meistens daran, dass sie die Sache sehr gut durchdacht haben und sehr starke Argumente vortragen. Aber - wie nahezu immer in der Philosophie - gibt es sicherlich auch gute Argumente, die für eine starke KI sprechen. Da du dich weigerst, sie vorzutragen, wollte ich mal nachsehen, was tatsächlich im Angebot ist.

Wer ist "sie"? Meine Argumente oder die von Philosophen? Mit letzteren kann ich nicht dienen, erste habe ich doch schon in sooo vielen Beiträgen vertreten bzw. vorgetragen (starke KI als Fernziel über langsame Entwicklung bestehender KI mit immer weiteren Ideen hin zu immer mehr Integration intelligenter Aspekte (Lernen, Planen, zielgerichtetes Handeln, div. Kommunikation usw.)).

[Jörn Budesheim]

Meines Erachtens hast du bisher kein einziges Argument für die starke KI vorgetragen und insbesondere hast du kein einziges Gegenargument adäquat beantwortet. Ich gehe daher davon aus, dass du mit der Diskussionslage einfach nicht vertraut bist.

[Jörn Budesheim]

[NaWennDuMeinst]

Für dich gibt es nur schwarz oder weiß... und was ist mit den Zwischentönen?
Ich möchte vielleicht kein Auto, sondern ich möchte nur irgendwie von A nach B kommen.
Entsprechend möchte ich (erstmal!?) keine KI, die so intelligent wie ein Mensch ist, aber schon etwas ausführen kann, was ein normaler Mensch als intelligent ansieht.

Du meinst ein dummer Mensch, den man leicht täuschen kann.

Nein, ich meinen einen Menschen, der einfach nur von A nach B kommen möchte, egal ob in einem (offiziellen) Auto oder auch anders.

Wenn ich von An nach B in einem Auto kommen möchte, dann ist es doch nicht egal ob es ein Auto ist oder nicht.
Ich kann ja auch laufen um von A nach B zu kommen. Ich kann dann aber nicht sagen ich bin mit einem Auto gefahren.

Dann hast du die Idee des Turingtests wirklich nicht verstanden. Es geht eben nur um die Blackbox-Ansicht und ob auf dieser Grundlage Mensch und KI/Schachprogramm auseinanderhalten kann.

Also

1. kommt beim Turing-Test kein Schachprogramm vor.
Der Turing-Test wird nicht mit Schachprogrammen ausgeführt.
Deshalb bitte nicht Äpfel mit Birnen vergleichen. Turing hat nie gsagt, dass man einen Computer intelligent nennen kann wenn der Mensch glaubt, dass er Schach spielt, noch dass man zugeben muss dass er Schach spielt, wenn er Züge macht, die wir als Schachzüge ansehen.

2. Beim Turing-Test gibt es keine Einschränlung bezüglich der Personen die teilnehmen. Das dürfen deine "normalen Menschen" aber - und besonders - Experten sein.
Ich würde sogar sagen das wäre Pflicht. Jemand der genau weiß, wie eine Maschine funktioniert und wie man sie zum Abstürzen bringt sollte diesen Test machen und sein Urteil sollte besonders viel gelten, sonst misst man ja nur wie leicht sich Laien täuschen lassen, aber nicht wie intelligent Maschinen sind.

[Burkart]

Meines Erachtens hast du bisher kein einziges Argument für die starke KI vorgetragen und insbesondere hast du kein einziges Gegenargument adäquat beantwortet. Ich gehe daher davon aus, dass du mit der Diskussionslage einfach nicht vertraut bist.

Offensichtlich zählen meine Ausführung als Argumente bei dir nicht und werden gerne mal übergangen. Gegenargumente wie "Intelligenz geht nur mit Leben" u.ä. habe ich divers beantwortet. Sag mir gerne ein klares Gegenargument (keine lange Abhandlung, sondern ein knackiges Argument), zu dem ich (nochmal) Stellung nehmen soll.

Was heißt "mit der Diskussionslage"? Wenn du von irgendwelcher aktuellen offiziellen ausgehst, richtig. Ich gehe von der grundsätzlichen Idee der starken KI aus und einem Verständnis dazu und vielen Begriffen, die maschinell nutzbar sind oder gemacht werden können (Lernen, Planen usw.).

[Körper]

Er lebt?

Ich will an der Stelle aber auch nochmal betonen, dass ich auch bei dem Zellhaufen keine echte Intelligenz sehe.

1.
Der Begriff "Leben" wäre bereits heute viel zu grob, um als Kriterium für Intelligenz durchzugehen, denn die überwiegende Mehrheit der Zellvariationen ergeben keinerlei Intelligenz (z.B. Muskelzellen).
(du möchtest ja anscheinend auch bei dem Zellhaufen aus Nervenzellen keine Intelligenz "sehen" können)
2.
Nach welchen Kriterien hast du dein "nicht-sehen"-Urteil aufgestellt?
800.000 Neuronen in 5min derart anzupassen, dass sich eine Funktion ergibt, würde ich einem Menschen jedenfalls nicht zutrauen.
Ein Urteil kann man doch eigentlich gar nicht treffen, solange nicht klar ist, was vor sich geht.

Die Frage ist für mich ob der Zellhaufen begreift was er da tut. Das weiß wohl keiner.

Nun, "greifen" kann der Zellhaufen nicht (er hat keine Hände), also wird er für sich keinen Einblick als "begreifen" verwalten.
Es kommt auch zu keiner Abgrenzung und Interaktion mit der Umwelt.

Der Zellhaufen ist ein Reaktionssystem, das maximal so wie in einem fertigen Lebewesen, mit intelligenter Anpassung reagieren kann.
Die Bewusstseins-Umstände wie "er begreift" und "er tut gerade etwas" kann es nur für einen wahrnehmenden Akteur geben.
Auch in einem wahrnehmenden Akteur kommt es in seinem Nervensystem maximal nur zu intelligenten Anpassungen.

Nun liegt aber bei dem Zellhaufen ganz klar eine Anpassung vor, und zwar für eine Anwendung, bei der wir nicht ausschliessen können, dass diese Veränderung ein "intelligenter Sprung" war.
Das Resultat sieht jedenfalls enorm gut aus -> "800.000 Anpassungen mit Korrektheit"

Ich sehe keine Grundlage, dass du hier ein Urteil treffen kannst - der Zellhaufen hat seine Aufgabe mit Erfolg und hoher Geschwindigkeit bewältigt. Über das "Korrektursignal" hat er ja sogar ein "Problem" vorgelegt bekommen.
Was hätte denn für dich "sichtbar" anderes herausgekommen sollen, dass du dem Zellhaufen "echte Intelligenz" zugestehen würdest?

[Burkart]

Du meinst ein dummer Mensch, den man leicht täuschen kann.

Nein, ich meinen einen Menschen, der einfach nur von A nach B kommen möchte, egal ob in einem (offiziellen) Auto oder auch anders.

Wenn ich von An nach B in einem Auto kommen möchte, dann ist es doch nicht egal ob es ein Auto ist oder nicht.
Ich kann ja auch laufen um von A nach B zu kommen. Ich kann dann aber nicht sagen ich bin mit einem Auto gefahren.

Aber nur wenn. Es geht halt nicht um die 1:1-Nachbildung von menschlicher Intelligenz, deinem Auto.

Dann hast du die Idee des Turingtests wirklich nicht verstanden. Es geht eben nur um die Blackbox-Ansicht und ob auf dieser Grundlage Mensch und KI/Schachprogramm auseinanderhalten kann.

Also

1. kommt beim Turing-Test kein Schachprogramm vor.
Der Turing-Test wird nicht mit Schachprogrammen ausgeführt.
Deshalb bitte nicht Äpfel mit Birnen vergleichen. Turing hat nie gsagt, dass man einen Computer intelligent nennen kann wenn der Mensch glaubt, dass er Schach spielt, noch dass man zugeben muss dass er Schach spielt, wenn er Züge macht, die wir als Schachzüge ansehen.

Nein, Schach war nicht Turings Thema. Ich hatte es nur als ein Anwendungsbeispiel gesehen anstelle von den bzw. als die zu stellenden Fragen.

2. Beim Turing-Test gibt es keine Einschränlung bezüglich der Personen die Teilnehmen.

Richtig, in der Annahme, dass du mit "Teilnehmer" die zu testenden Personen meinst, nicht den Tester selbst.
Als Tester sollte man schon nicht zu blöd sein

Das dürfen deine "normalen Menschen" aber - und besonders - Experten sein.

Yep.

Ich würde sogar sagen das wäre Pflicht. Jemand der genau weiß, wie eine Maschine funktioniert und wie man sie zum Abstürzen bringt sollte diesen Test machen und sein Urteil sollte besonders viel gelten, sonst misst man ja nur wie leicht sich Laien täuschen lassen, aber nicht wie intelligent Maschinen sind.

Klar, der Tester sollte gut sein. Abstürzen wird die Maschine beim Test wohl kaum, aber man kann sie mit fiesen Fragen testen.

[NaWennDuMeinst]

Er lebt?

Ich will an der Stelle aber auch nochmal betonen, dass ich auch bei dem Zellhaufen keine echte Intelligenz sehe.

1.
Der Begriff "Leben" wäre bereits heute viel zu grob, um als Kriterium für Intelligenz durchzugehen, denn die überwiegende Mehrheit der Zellvariationen ergeben keinerlei Intelligenz (z.B. Muskelzellen).
(du möchtest ja anscheinend auch bei dem Zellhaufen aus Nervenzellen keine Intelligenz "sehen" können)

Und was heißt das nun? Ist der Zellhaufen für Dich nun intelligent oder nicht?

2.
Nach welchen Kriterien hast du dein "nicht-sehen"-Urteil aufgestellt?

Was ich sehe sind Reaktionen.
Reaktionen sehe ich auch, wenn ich meine Gulaschsuppe in den Mikrowellenofen stelle.
Wenn ich den Ofen einschalte, dann wird die Suppe heiß, fängt an zu blubbern und so weiter.
Schalte ich ihn aus, hört die Suppe damit auf.
Heißt das jetzt. dass die Suppe intelligent ist? Ist der Ofen intelligent?

Der Zellhaufen ist ein Reaktionssystem

Das ist meine Gulaschsuppe aber auch.

Nun liegt aber bei dem Zellhaufen ganz klar eine Anpassung vor, und zwar für eine Anwendung, bei der wir nicht ausschliessen können, dass diese Veränderung ein "intelligenter Sprung" war.

Verstehe ich Dich richtig? Intelligenz = Anpassung?
Das willst Du sagen?
Dann wäre die Frage, welche Form von Anpassung darf dazu zählen.
Denn ein Computer passt zum Beispiel seine Datenbank an indem er Werte hinzufügt, andere entfernt.
Das machen die heute schon. Aber die heutigen Computer sind für Dich nicht intelligent, oder?

Ich sehe keine Grundlage, dass du hier ein Urteil treffen kannst - der Zellhaufen hat seine Aufgabe mit Erfolg und hoher Geschwindigkeit bewältigt.

Jo, das machen Computer auch. Die hälst Du deshalb aber nicht für intelligent, wenn ich dich recht verstehe.

[NaWennDuMeinst]

Nein, Schach war nicht Turings Thema. Ich hatte es nur als ein Anwendungsbeispiel gesehen anstelle von den bzw. als die zu stellenden Fragen.

Die Frage ab wann Jemand Schach spielt ist aber kein Anwendungsfall vom Turing-Test. Das hat mit dem Turing-Test nichts zu tun.
Nochmal: Daraus dass ein Taschenrechner richtige Ergebnisse liefert folgt nicht, dass er rechnet oder intelligent ist.
Und daraus, dass ein Mensch einen Computer nutzen kann um Schach zu spielen folgt nicht, dass der Computer Schach spielt.
Genauso wenig wie die Schachfiguren auf einem realen Schachbrett oder das Schachbrett selbst Schach spielen, nur weil Menschen sie benutzen um Schach zu spielen.

Klar, der Tester sollte gut sein. Abstürzen wird die Maschine beim Test wohl kaum, aber man kann sie mit fiesen Fragen testen.

Ja, "gut" heißt aber auch, dass er weiß wie Computer funktionieren, und wo sie ihre Schwächen haben.
Das ist also keine reine Blackbox, keine "Ich weiß nicht was auf der anderen Seite passiert"-Situation.
Bei einem solchen Test würde ich erwarten, dass Personen daran teilnehmen die davon ausgehen, dass auf der anderen Seite ein Computer "sitzen" könnte.

Warum reden wir überhaupt darüber?
Du willst mich von Deiner Annahme überzeugen, dass Intelligenz = intelligentes Verhalten ist.
Wahrscheinlich um den Begriff Intelligenz irgendwie fassen zu können.
Du verschiebst damit aber das Problem nur. Denn was ist ein intelligentes Verhalten?
Und da sage ich nun: Eine Werkzeugkiste die nur das tut was wir ihr vorher einprogrammiert haben verhält sich nicht intelligent.

[Jörn Budesheim]

Die Menschen, die solche Werkzeuge produzieren und einsetzen können, werden jedoch in Zukunft mehr und mehr Macht haben. Denen sollte man auf die Finger schauen.

[Burkart]

Nein, Schach war nicht Turings Thema. Ich hatte es nur als ein Anwendungsbeispiel gesehen anstelle von den bzw. als die zu stellenden Fragen.

Die Frage ab wann Jemand Schach spielt ist aber kein Anwendungsfall vom Turing-Test. Das hat mit dem Turing-Test nichts zu tun.

Es geht beim Turingtest darum herauszufinden, wer Mensch und wer KI ist. Man kann also z.B. Fragen stellen, die sich auf Schach beziehen, warum auch nicht? (Und das in Züge und letztlich zu einer ganzen Partie werden durch diverse Fragen.)

Nochmal: Daraus dass ein Taschenrechner richtige Ergebnisse liefert folgt nicht, dass er rechnet oder intelligent ist.
Und daraus, dass ein Mensch einen Computer nutzen kann um Schach zu spielen folgt nicht, dass der Computer Schach spielt.
Genauso wenig wie die Schachfiguren auf einem realen Schachbrett oder das Schachbrett selbst Schach spielen, nur weil Menschen sie benutzen um Schach zu spielen.

Das ist deine Defintion von Schach spielen, die der leider Blackbox-Idee (und somit der vom Turingtest) widerspricht.

Klar, der Tester sollte gut sein. Abstürzen wird die Maschine beim Test wohl kaum, aber man kann sie mit fiesen Fragen testen.

Ja, "gut" heißt aber auch, dass er weiß wie Computer funktionieren, und wo sie ihre Schwächen haben.
Das ist also keine reine Blackbox, keine "Ich weiß nicht was auf der anderen Seite passiert"-Situation.
Bei einem solchen Test würde ich erwarten, dass Personen daran teilnehmen die davon ausgehen, dass auf der anderen Seite ein Computer "sitzen" könnte.

Blackbox sind nur die zu testenden Personen A und B (nicht "die Situation") mit der Voraussetzung/dem Wissen, dass eine ein Mensch ist, die andere nicht.

Warum reden wir überhaupt darüber?
Du willst mich von Deiner Annahme überzeugen, dass Intelligenz = intelligentes Verhalten ist.
Wahrscheinlich um den Begriff Intelligenz irgendwie fassen zu können.
Du verschiebst damit aber das Problem nur. Denn was ist ein intelligentes Verhalten?

Die Idee von Turing mit seinem Test ist gerade, dass ein System als intelligent angesehen werden kann, wenn es nicht erkennbar anders ist als der Mensch auf dem anderen Kanal (A<->B). Und nach diesem Prinzip sollte es irgendwann mal starke KI geben, also dass das, was sie macht, also intelligente Aktionen angesehen werden kann, insofern man nur blackboxmäßig die Resultate der Aktionen beurteilt.

Und da sage ich nun: Eine Werkzeugkiste die nur das tut was wir ihr vorher einprogrammiert haben verhält sich nicht intelligent.

Deshalb lernt die KI ja auch, soll als Roboter eigenen Erfahrungen machen usw.
(Und Menschen sind letztlich auch genetisch programmiert.)

[Burkart]

Die Menschen, die solche Werkzeuge produzieren und einsetzen können, werden jedoch in Zukunft mehr und mehr Macht haben. Denen sollte man auf die Finger schauen.

Das ist sicherlich richtig, wobei dies auch heute schon viel mehr sein sollte/könnte.

[NaWennDuMeinst]

(Und Menschen sind letztlich auch genetisch programmiert.)

Unser Verhalten ist nicht komplett genetisch determiniert, so wie das Verhalten eines Computer determiniert ist durch seine Programmierung.
Es gibt für sehr viele Verhaltensweisen die die Menschen zeigen keine korrespondierenden Gene. So funktioniert der Mensch auch nicht. Er ist eben keine Maschine.

Zum Turing-Test nochmal:
So wie Du diesen Test beschreibst, ist das die Originalkonfiguration wie sie Alan Turing sich ausgedacht hat. Dieser Test ist seit dem umfangreich erweitert worden.
Ich glaube nicht, dass ein einfaches 5-Minuten Gespräch ausreichen würde.
Momentan reicht das aber locker hin um die Kiste als Kiste zu entlarven. Weil die Qualität der Nachahmung lausig ist.
Die Nachahmung wird sicher im Laufe der Zeit besser werden. Dass sich ein Computer verhält wie ein Mensch, das werden wir nicht erleben, bzw für diese Annahme gibt es keinen Grund.
Zu viele Aspekte des menschlichen Verhaltens (z.B. Emotionen) sind auf einem Computer gar nicht umsetzbar. Nicht mal in der Theorie.

Aus dem Wiki-Artikel zum Turing Test.
Turing vermutete, dass es bis zum Jahr 2000 möglich sein werde, Computer so zu programmieren, dass der durchschnittliche Anwender eine höchstens 70-prozentige Chance habe, Mensch und Maschine erfolgreich zu identifizieren, nachdem er fünf Minuten mit ihnen „gesprochen“ hat. Dass sich diese Vorhersage bisher nicht erfüllte, sehen viele als einen Beleg für die Unterschätzung der Komplexität natürlicher Intelligenz.

Ich denke das ist genau das was Du uns hier präsentierst: Eine massive Unterschätzung natürlicher Intelligenz.
Für Dich scheint Intelligenz vor allem Schachspielen und Rechnen zu sein. Logikrätselchen lösen. Aber richtige Intelligenz ist natürlich sehr viel mehr.

[NaWennDuMeinst]

„Eine KI die intelligent genug ist den Turing-Test zu bestehen, könnte auch intelligent genug sein ihn nicht zu bestehen.“



(Das wäre in der Tat eine Überraschung, wenn die Maschine sich weigern würde teilzunehmen oder den Test absichtlich manipuliert.)

[Jörn Budesheim]

Die Wahrheit über Alan Turings Intelligenztest, von Anna (16 Jahre) aufgedeckt.

Alan: Kannst du mir sagen, ob Fritz intelligent ist?
Anna: Wie bitte?? Und wer ist Fritz?
Alan: Fritz ist kein Mensch. Ich würde gerne wissen, ob er denken kann, so wie du und ich.
Anna: ist ja ziemlich strange. Na gut, was soll's. Dann stell ihn mir doch einmal vor. Wir werden schon sehen, ob er intelligent ist oder nicht.
Alan: Ich würde es gerne über einen Chat erledigen.
Anna: Hä?? Was soll das bringen?? Dann könnte Fritz doch ebenso gut ein Computer sein, der bloß darauf programmiert ist, menschenähnlich zu wirken. Das ist doch witzlos!! Willst du mich verkackeiern??

[Jörn Budesheim]

Zwei verbesserte Versionen des Turing-Tests gibt es in dem Film Blade Runner. Dort werden den Probanden emotional aufwühlende Fragen gestellt und man überprüft Atmung, Puls, Pupillenreaktion.

Aber der wirklich interessante Fall ist der von Rachel und anderen Replikanten, die sich selbst fragen, ob sie selbst Replikanten sind ...

[Jörn Budesheim]

Ich habe mal ein bisschen in meiner digitalen Bibliothek gesucht. Die Texte von Nichtphilosophen zu dem Thema sind in der Regel "seltsam", vorsichtig formuliert. Es wird z.b. einfach unterstellt, dass Computer lernen können, ohne dass dabei der Begriff des Lernens einer Untersuchung unterzogen wird.

Ein anderer Autor spricht von "nichtbiologischen Leben" und nimmt diese Formulierungen einfach als selbstverständlich hin. Dabei ist nicht-biologisches Leben dem Begriff nach - lebloses Leben. Das kann man meines Erachtens nicht ohne ausführliche Reflexionen übergehen ...

Hier ein weiteres Beispiel:

1986 präsentierten die amerikanischen Psychologen David Rumelhart und James McClelland einen Computer, der Sprache ähnlich wie ein Kleinkind erlernte. Der Computer bekam dabei die Aufgabe: Bilde die Vergangenheitsform von (englischen) Verben. Eingefüttert wurden nur die Grundformen, also beispielsweise »start«, »walk« oder »go«. Die Wissenschaftler brachten dem System keine Regeln bei, sondern der Computer musste probieren und bekam dann freundliches Feedback zu seinen Lösungen und Beispiele anderer Verben, allerdings ohne die korrekte Lösung explizit zu erhalten. Das System fand schnell heraus, dass viele Verben ihre Vergangenheitsform mit »ed« bilden, also »started« oder »walked«. Wie ein Kleinkind sagte es dann erst einmal »goed«, »buyed« und »readed« – und wurde von seinen beiden Vätern belehrt, dass es bei unregelmäßigen Verben in eine andere Richtung denken müsste. Je mehr Vergangenheitsformen unregelmäßiger Verben es beherrschte – »went«, »bought«, »read« – desto schneller kam das rudimentäre künstliche Sprachgehirn auf die richtige Lösung bei anderen. Nach 200 Durchgängen beherrschte es alle 400 Verben, für die Rumelhard und McClelland es trainieren wollten. Der Computer hatte Regeln ​und Muster selbst identifiziert, mit denen er die ihm gestellte Aufgabe lösen konnte.

Was hier fehlt, ist eine Beschreibung dessen, was ein "freundliches Feedback" ist. Wurde der Computer gestreichelt? Außerdem wird keine Zeit darauf verschwendet, sich zu fragen, ob der Computer den Witz der Regel verstanden hat und überhaupt ein Begriff von Vergangenheit, Gegenwart und Zukunft hat?

Eigentlich ist es doch so, dass wir normalerweise gerade nicht davon ausgehen, dass etwas intelligent ist, wenn es die Regel nur mechanisch reproduziert, aber z.b. nicht deren eigentlichen Witz erfasst. Es ist eine seltsame begriffliche Vorntscheidung, genau das als "gelernt" zu bezeichnen, was man üblicherweise als "nicht gelernt" bezeichnen würde.