Wie Sprachmodelle wie Grok wirklich funktionieren

Grok ist ein großes Sprachmodell (Large Language Model, LLM): ein Programm, das anhand riesiger Textmengen trainiert wurde, um Texte sinnvoll fortzusetzen. Du brauchst kein Mathe-Wissen, um die Grundprinzipien zu verstehen – und dieses Wissen zahlt sich schnell aus. Es erklärt, warum Grok Absätze brillant umformuliert, weshalb es manchmal mit voller Überzeugung falsche Daten nennt, warum es in unserem Chat die Nachrichten der letzten Woche nicht kennt und weshalb ein klarerer Prompt zu besseren Antworten führt.

Der entscheidende Gedanke: Vorhersagen, was als Nächstes kommt

Im Kern macht ein LLM genau eine Sache: Ausgehend von einem gegebenen Text schätzt es ab, welcher kurze Textbaustein als Nächstes am wahrscheinlichsten folgt, fügt ihn an und wiederholt den Vorgang. Deine Frage, frühere Nachrichten und die internen Anweisungen der Website gehören alle zu diesem Ausgangstext. Die Antwort, die du liest, entsteht aus Tausenden solcher kleinen Vorhersagen – eine nach der anderen, jede basierend auf allem bisher Geschriebenen.

Das klingt fast zu simpel, um eine verständliche Erklärung von Steuerregeln oder funktionierenden Programmcode zu erzeugen. Das Ganze funktioniert dank der schieren Masse: Um Texte über Milliarden von Beispielen hinweg treffsicher vorherzusagen, muss ein Modell enorm viel über Grammatik, Fakten, Denkmuster, Stile und menschliche Erklärungsweisen verinnerlichen. Die Vorhersage ist die Aufgabe; ein umfassendes, abstraktes Verständnis von Sprache und der Welt ist der willkommene Nebeneffekt.

Bei jeder Wortwahl spielt ein wenig gezielter Zufall mit. Deshalb kann dieselbe Frage jedes Mal etwas anders formuliert beantwortet werden, wenn du die Antwort neu generieren lässt.

Tokens: Die Bausteine, mit denen das Modell arbeitet

Modelle lesen keine Buchstaben oder ganzen Wörter. Sie lesen Tokens: Textabschnitte, die oft aus einem kurzen Wort, Teilen längerer Wörter, einem Leerzeichen samt Wort oder Satzzeichen bestehen. Häufige englische Begriffe sind meist ein einzelnes Token; seltenere Wörter und nicht-lateinische Schriften werden oft in mehrere Tokens aufgeteilt.

Tokens sind für dich aus zwei Gründen wichtig: Limits für Eingabe- und Ausgabemengen werden in Tokens gemessen, nicht in Wörtern. Und weil das Modell Text in Abschnitten statt in Buchstaben wahrnimmt, können Aufgaben wie das Zählen von Buchstaben in einem Wort oder das Rückwärtsschreiben einer Zeichenkette zu Fehlern führen – selbst wenn es weitaus komplexere Sprachaufgaben mühelos löst.

Die Grok-Modelle in unserem Chat akzeptieren auch Bilder. Ein Bild wird dabei in ein Format umgewandelt, das das Modell zusammen mit deinem Text verarbeiten kann. So kann es Diagramme analysieren oder Fotos beschreiben. Die Antwort erfolgt weiterhin als Text.

Training: Vom Rohtext zum nützlichen Assistenten

Die Entwicklung eines Modells wie Grok erfolgt in mehreren Phasen. Die genauen Details hält jedes Unternehmen meist unter Verschluss, das Grundprinzip ist jedoch bekannt.

1. Pre-Training: Das Modell lernt, Texte anhand einer gigantischen Sammlung von Büchern, Websites, Quellcode und anderen Inhalten vorherzusagen. Hier entsteht sein Allgemeinwissen und sein Sprachgefühl.
2. Fine-Tuning: Anschließend wird es mit Beispielen für gelungene Konversationen trainiert: Fragen kombiniert mit hilfreichen, übersichtlich formulierten Antworten. Dadurch verwandelt sich der reine Textvorhersager in einen Assistenten, der Anweisungen befolgt.
3. Feedback: Menschen und automatisierte Tests bewerten die Antworten. Das Modell wird daraufhin optimiert, bevorzugt Antworten zu geben, die gut abschneiden – etwa präzise, verständliche und sichere Formulierungen.

Das Ergebnis ist eine riesige Datei voller Zahlenwerte, die sogenannten Gewichte (Weights), die das Wissen des Modells abbilden. Das Modell behält keine Kopien seiner Trainingsdaten, um darin Dinge nachzuschlagen. Es speichert Muster. Deshalb kann es Konzepte mit eigenen Worten erklären, verwechselt aber unter Umständen konkrete Details.

Wissensstand (Knowledge Cut-off) und fehlendes Internet

Jedes Training endet an einem bestimmten Tag – alles, was danach passiert ist, kennt das Modell nicht. Dieser Zeitpunkt ist der Wissensstand (Knowledge Cut-off). Manche Versionen von Grok können im Web suchen: Das offizielle Grok auf grok.com und X bietet eine Live-Suche. Unser Chat hat diese Funktion nicht. Grok antwortet hier ausschließlich auf Basis seines Trainings und der Informationen, die du in die Unterhaltung einbringst.

Für die Praxis bedeutet das: Nutze für Nachrichten, Preise, Sportergebnisse, Fahrpläne, Gesetzesänderungen und neueste Softwareversionen stets aktuelle Quellen. Wenn du einen aktuellen Artikel in den Chat kopierst, kann Grok direkt damit arbeiten, da der Text dann Teil der Unterhaltung ist.

Kontextfenster: Das Arbeitsgedächtnis des Modells

Das Kontextfenster eines Modells bestimmt, wie viel Text es auf einmal erfassen kann – einschließlich deiner Nachrichten, seiner Antworten und aller Systemanweisungen. Die Grok-Modelle von xAI bieten riesige Kontextfenster: OpenRouter nennt 2 Millionen Tokens für Grok 4.20, 1 Million für Grok 4.3 und 500.000 für Grok 4.7. Unser Chat nutzt einen deutlich kleineren Ausschnitt, um Antworten schnell und dauerhaft kostenlos bereitzustellen. Dabei werden die ältesten Nachrichten eines langen Verlaufs automatisch gekürzt.

Daraus ergeben sich zwei Dinge: Innerhalb eines Chats „erinnert“ sich Grok nur an das, was noch im Kontextfenster liegt. Und zwischen verschiedenen Unterhaltungen merkt es sich gar nichts: Ein neuer Chat beginnt bei null, auch wenn deine bisherigen Chats lokal in deinem Browser gespeichert bleiben. Wenn ein langer Chat den Faden verliert, bitte einfach um eine kurze Zusammenfassung und starte damit ein frisches Gespräch.

Reasoning: Modelle, die vor der Antwort nachdenken

Einige Modelle sind darauf trainiert, Zwischenschritte zu formulieren, bevor sie die endgültige Antwort ausgeben: Sie listen Bedingungen auf, testen Lösungswege und überprüfen Zwischenergebnisse. Das nennt sich Reasoning und bringt vor allem bei Mathe, Logikrätseln, Planungsaufgaben und beim Debuggen spürbare Vorteile. In unserem Chat nutzen Grok 4.3 Thinking und Grok 4.7 diesen Denkprozess vor der Ausgabe, während Grok 4.20 für maximale Geschwindigkeit ohne Reasoning läuft. Unser Leitfaden zu den Reasoning-Modellen zeigt dir, wann sich das kurze Warten lohnt.

Warum Modelle Dinge erfinden

Da das Modell stets versucht, eine plausible Fortsetzung zu schreiben, stoppt es nicht automatisch dort, wo sein Wissen aufhört. Fragt man es nach einer Quelle, die es nie gesehen hat, erfindet es mitunter einen überzeugend klingenden Buchtitel. Geht es um ein kleines Dorf, vermischt es eventuell Details ähnlicher Orte. Dieses Phänomen nennt man Halluzination – ein Nebeneffekt desselben Mechanismus, der dem Modell seine sprachliche Gewandtheit verleiht. Training verringert das Problem, und Vorgaben wie „Sag Bescheid, wenn du dir unsicher bist“ helfen ebenfalls, doch kein aktuelles Modell ist komplett fehlerfrei. Unser Leitfaden zum Faktencheck von KI-Antworten zeigt dir, worauf du achten solltest.

Was das für deine Prompts bedeutet

Aus den genannten Punkten ergeben sich einfache, praktische Tipps: Das Modell prognostiziert Text anhand dessen, was vorliegt – liefere ihm also das Ausgangsmaterial. Sein Wissen ist zeitlich begrenzt – füge aktuelle Fakten selbst ein. Es neigt zum Raten – fordere es auf, Unsicherheiten klar zu benennen.

Schwach:
Welche Regeln gelten für mein Visum?

Stark:
Hier ist der offizielle Text zu meiner Visakategorie, heute kopiert.
Erkläre mir in einfachen Worten, was ich vor Ablauf des Visums tun muss,
und liste alle genannten Fristen auf. Nutze ausschließlich diesen Text
und weise mich darauf hin, falls etwas unklar bleibt.
---
[kopierter Text]

Der schwache Prompt verlangt von Grok, Regeln aus dem Gedächtnis abzurufen, die sich längst geändert haben könnten. Der starke Prompt gibt die verlässliche Quelle vor und lässt die KI das tun, worin LLMs glänzen: lesen, erklären und strukturieren. Teste dafür auch unseren Summarizer oder bitte Grok direkt, sich selbst in einfachen Worten zu erklären.

FAQ

Versteht Grok wirklich, was es schreibt?

Darüber wird viel diskutiert. Fest steht: Es kann Zusammenhänge erklären, Texte zusammenfassen und logische Schlüsse ziehen, die im Alltag sehr nützlich sind. Gleichzeitig kann es sich irren, ohne es zu merken. Verlass dich nicht darauf, wie sicher eine Formulierung klingt, sondern überprüfe die Fakten.

Lernt Grok gerade aus meinen aktuellen Chats?

Das Modell verändert sich während des Chats nicht; seine Gewichte sind nach dem Training fest fixiert. Innerhalb einer Unterhaltung nutzt es deine Nachrichten als Kontext – startest du einen neuen Chat, beginnt es wieder völlig unvoreingenommen.

Warum liefern verschiedene KI-Modelle unterschiedliche Antworten?

Sie wurden mit anderen Texten, anderen Trainingsmethoden und mit unterschiedlichen Schwerpunkten entwickelt. Unsere Vergleiche von Grok mit anderen Modellen und der Überblick Was ist Grok beleuchten, wie sich die Grok-Familie unterscheidet.

Wer entwickelt Grok?

Grok stammt von xAI, das im Februar 2026 von SpaceX übernommen wurde. Unsere Website ist unabhängig und bindet Grok-Modelle über eine Cloud-API ein; wir stehen in keiner geschäftlichen Verbindung zu xAI, SpaceX oder X. Eine Übersicht der Entwicklung findest du in unserer Grok-Historie.