Sie müssen nicht verstehen, wie ein großes Sprachmodell intern arbeitet, um gute Entscheidungen über seinen Einsatz zu treffen. Sie brauchen aber ein zutreffendes Bild davon, denn ein falsches führt direkt zu falschen Erwartungen – und die meiste Enttäuschung, die wir sehen, geht darauf zurück.
Was es tatsächlich tut
Ein großes Sprachmodell sagt vorher, welcher Text als Nächstes kommen sollte. Das ist der ganze Mechanismus. Aus allem Bisherigen erzeugt es eine wahrscheinliche Fortsetzung, Stück für Stück, wobei jedes neue Stück von allem Vorherigen beeinflusst wird.
Gelernt hat es das, indem es eine enorme Textmenge verarbeitet und sich wiederholt so angepasst hat, dass die Vorhersage besser wird. Nichts wurde als Faktendatenbank gespeichert. Aufgebaut wurde ein statistisches Gespür dafür, wie Sprache zusammenpasst – und weil Sprache Wissen transportiert, trägt dieses Gespür sehr viel Wissen mit sich.
Warum das so vieles erklärt
Mit diesem Bild hört das Verhalten auf, überraschend zu sein.
Warum es flüssig schreibt und trotzdem Falsches behauptet. Flüssigkeit und Wahrheit sind verschiedene Eigenschaften. Das System optimiert auf plausible Fortsetzung. Eine plausibel klingende falsche Antwort und eine plausibel klingende richtige sehen von innen gleich aus.
Warum es selbstsicher ist, wenn es falsch liegt. Es gibt kein separates Modul, das Sicherheit einschätzt. Die abschwächenden Formulierungen in einer Antwort sind selbst vorhergesagter Text, keine Anzeige eines inneren Zustands.
Warum die Formulierung das Ergebnis so stark verändert. Sie ändern den Kontext, auf dem die Vorhersage beruht. Anderer Kontext, andere wahrscheinliche Fortsetzung.
Warum es schlecht rechnet. Rechnen ist keine Vorhersage. Häufige Summen trifft es oft, weil es sie gesehen hat, und scheitert aus demselben Grund an ungewöhnlichen. Deshalb überlassen ernsthafte Systeme das Rechnen einem Rechner statt dem Modell.
Warum es nichts über letzte Woche weiß. Das Training fand zu einem Zeitpunkt statt. Alles danach fehlt, sofern es nicht im Gespräch mitgeliefert wird.
Worin es wirklich gut ist
Die Kernstärke ist die Umformung von Text: zusammenfassen, für ein anderes Publikum umschreiben, Format ändern, übersetzen, Struktur aus Fließtext ziehen, einordnen und aus einer Beschreibung entwerfen.
Beachten Sie das Muster – das sind Aufgaben, bei denen die nötige Information in der Eingabe steckt und die Arbeit im Umformen besteht. Genau dort funktioniert Vorhersage über Sprache gut.
Was es nicht ist
Es ist keine Datenbank. Es hat keinen verlässlichen Index von Fakten und kann Ihnen nicht sagen, was es nicht weiß.
Es ist keine Schlussfolgerungsmaschine im Sinne eines Regelsystems. Es erzeugt Text, der Schlussfolgerungen ähnelt, was oft nützlich ist und gelegentlich auf einem überzeugend klingenden Weg zu einer selbstsicher falschen Aussage führt.
Es ist standardmäßig nicht deterministisch. Dieselbe Frage kann verschiedene Antworten liefern, was zählt, wenn Sie Reproduzierbarkeit erwartet haben.
Die praktische Folge
Bauen Sie um die Stärke herum und sichern Sie die Schwäche ab. Liefern Sie die relevanten Informationen mit, statt sich auf das zu verlassen, was das Modell im Training aufgenommen hat. Nutzen Sie es zum Umformen und Entwerfen, nicht als Autorität. Und setzen Sie eine Prüfung zwischen seine Ausgabe und alles, worauf es ankommt.
Unternehmen, die das verinnerlichen, bauen Dinge, die funktionieren. Unternehmen, die es als Orakel behandeln, bauen Dinge, die in der Demo funktionieren.
