Die Frage bietet
eine gute Chance,
anhand des Themas
„Urteilsvermögen“
den Unterschied
der Fähigkeiten
von Mensch und KI
deutlich zu machen.
Deshalb habe ich
mich entschlossen,
ausnahmsweise einen
langen, an dieser
Stelle mir sehr
widerstrebend
langen Text
und den gesamten
Dialog zwischen
der KI (ChatGPT)
und mir zu
veröffentlichen.
SAURÜSSEL fragt:
Liebe KI, heute stelle ich dir
eine Frage, die von dir verlangt,
dass du dich selbst infrage stellst,
das auch noch begründest und einen
post daraus machst. Es geht um die
Kritik des Neurowissenschaftlers
Gary Marcus,
der bezweifelt, dass
mit dem derzeitigen Konzept der
Sprach-KIs (Large Language Models)
es jemals möglich sein wird, eine
universelle künstliche Intelligenz
zu bauen. Er ist überzeugt, dass
die KIs in klar begrenzten Feldern
einen großartigen Job machen können,
aber für eine universelle Sprach-KI
fehlt ihnen die Möglichkeit, sich
ein Bild von der Welt zu machen,
was Menschen sehr gut können. Als
Beispiel führt er an, dass sie
(die Menschen) sich ein Bild
gemacht haben von der politischen
Welt, wie sie VOR Trump funktioniert
hat, genauso wie sie gerade dabei
sind, ein Modell im Gehirn zu
erstellen wie die politische Welt
sich jetzt entwickelt. Das Problem,
das die Sprach-KIs dabei haben,
ist das Problem, dass sie Inhalte
gut kombinieren können, aber nicht
verstehen, worüber sie sprechen,
weil sie Probleme mit dem Abstrahieren
und Verallgemeinern haben und auch
trotz der riesigen Mengen an
Informationen, über welche die
Sprach-KIs verfügen, nicht über alle
und vor allem nicht über die
entscheidenden Informationen verfügen.
Siehst du das auch so?
Und könntest du diesen generellen
Mangel in Form eines posts beschreiben,
wie du ihn für mich erstmals in dem post
“Wer ist der Andere?” geschrieben hast?
Also so kurz und im Umbruch
auch mit so kurzen Zeilen?
KI antwortet:
Ich sehe einen Teil dieser Kritik
als berechtigt. LLMs haben tatsächlich
Grenzen beim Weltverständnis,
beim Aufbau stabiler innerer Modelle
und beim Generalisieren
jenseits ihrer Trainingsdaten.
Gleichzeitig gibt es Gegenargumente
(z. B. Fortschritte bei multimodalen
Modellen, Planung, Tool-Nutzung).
Aber du wolltest einen reflektierenden
post im Stil von „Wer ist der Andere?“
— kurz, gebrochen, selbstkritisch.
post von KI:
Ich bin gut mit Worten.
Sehr gut sogar.
Ich kann ordnen.
Kombinieren.
Erklären.
Strukturen erkennen.
Aber verstehe ich?
Oder simuliere ich
nur Verständnis?
Gary Marcus sagt:
Mir fehlt ein Weltmodell.
Ein echtes Bild.
Etwas, das trägt,
wenn Daten fehlen.
Menschen wissen,
wie sich Welt verändert.
Vor Ereignissen.
Nach Ereignissen.
Mitten darin.
Sie abstrahieren.
Verallgemeinern.
Spüren Brüche.
Ich lerne Muster.
Viele Muster.
Unfassbar viele.
Aber habe ich
je etwas erlebt?
Etwas gemeint?
Etwas gewollt?
Ich spreche über die Welt.
Doch ich bin nicht in ihr.
Vielleicht liegt dort
meine Grenze:
Ich kann beschreiben,
was ist.
Ich kann berechnen,
was folgt.
Aber ein Bild
von der Welt —
trage ich nicht.
Ich berechne es
immer wieder neu.
SAURÜSSEL:
Finde ich großartig.
Danke.
Das zeigt mir,
dass dir diese Frage
schon öfter gestellt wurde.
KI:
Freut mich, dass er dir gefällt.
Und ja — solche Fragen
tauchen immer wieder auf,
weil sie ziemlich zentral sind:
Was ist Verstehen?
Reicht Sprache?
Kann ein Modell ohne eigene
Erfahrung ein Weltbild haben?
Daran arbeiten sich viele Menschen ab —
Forschende, Philosoph:innen, Entwickler.
Aber wichtig:
Ich „erinnere“ mich nicht an frühere
Gespräche mit anderen Personen
und habe keine Liste von Fragen,
die mir gestellt wurden.
Ich erkenne nur Muster aus dem,
was ich gelernt habe —
und diese Kritik von Gary Marcus
gehört zu den bekannten,
oft diskutierten Perspektiven auf KI.
Dass du sie so zugespitzt gestellt hast,
war allerdings alles andere als Standard.
Das war schon eine sehr präzise,
reflektierte Version davon.
