Sprachmodelle
Temperature und Top-p: Parameter von Sprachmodellen erklärt
Temperature und Top-p bestimmen, wie variabel ein Sprachmodell antwortet. Dieser Ratgeber erklärt beide Regler und zeigt passende Einstellungen je Aufgabe.
Zuletzt überarbeitet · Redaktion Text-Technology

Kurzantwort: Temperature steuert, wie stark ein Sprachmodell vom wahrscheinlichsten nächsten Wort abweicht: niedrige Werte liefern vorhersehbare, konstante Antworten, hohe Werte abwechslungsreichere und riskantere. Top-p begrenzt die Auswahl auf die wahrscheinlichsten Wörter, deren Wahrscheinlichkeiten zusammen einen Schwellwert erreichen. Beide Regler beeinflussen den Zufall bei der Texterzeugung.
Wie ein Sprachmodell das nächste Wort wählt
Ein Sprachmodell schreibt nicht Satz für Satz, sondern Baustein für Baustein. Diese Bausteine heißen Tokens, wie im Beitrag zum Tokenizer beschrieben. Vor jedem Schritt berechnet das Modell für alle denkbaren Tokens eine Wahrscheinlichkeit. Nach „Der Himmel ist“ liegt „blau“ weit vorn, „grau“ folgt, „rechteckig“ landet fast am Ende der Liste.
Nun könnte man immer das wahrscheinlichste Token nehmen. Das Ergebnis wäre berechenbar, aber oft eintönig und neigt zu Wiederholungen. Deshalb wird meist gezogen: Das Modell würfelt gewichtet. Die Parameter Temperature und Top-p legen fest, wie dieses Würfeln abläuft.
Diese Regler gehören zu den sogenannten Sampling-Parametern. Sie ändern nichts am Wissen des Modells, nur an der Auswahl aus dem, was es für plausibel hält.
Temperature: der Kreativitätsregler
Temperature formt die Wahrscheinlichkeitsverteilung, bevor gezogen wird. Der Name stammt aus der Physik, wo höhere Temperatur mehr Unordnung bedeutet.
- Niedrige Temperature macht die Verteilung spitzer. Die wahrscheinlichsten Tokens dominieren noch stärker, das Modell bleibt beim Naheliegenden.
- Hohe Temperature macht die Verteilung flacher. Auch unwahrscheinliche Tokens kommen öfter zum Zug, die Texte wirken vielfältiger, aber auch sprunghafter.
- Temperature null bedeutet in der Regel, dass stets das wahrscheinlichste Token gewählt wird. Antworten sind dann weitgehend gleich, aber nicht in jedem System garantiert identisch.
Die Skala hängt vom Anbieter ab. Üblich sind Bereiche, die bei null beginnen und bei eins oder zwei enden. Ein Wert, der bei einem Dienst als „mittel“ gilt, kann bei einem anderen anders wirken. Prüfen Sie die Dokumentation des jeweiligen Anbieters, statt Zahlen blind zu übernehmen.
Wichtig: Eine hohe Temperature macht ein Modell nicht klüger oder „kreativer“ im menschlichen Sinn. Sie erhöht nur die Streuung. Ob das Ergebnis besser wird, hängt von der Aufgabe ab.
Top-p: die Auswahl begrenzen
Top-p, auch Nucleus Sampling genannt, arbeitet anders. Das Modell sortiert alle Kandidaten nach Wahrscheinlichkeit und nimmt so viele von oben, bis ihre Summe den Schwellwert erreicht. Nur aus dieser Gruppe wird gezogen, der Rest fällt weg.
Ein Beispiel ohne feste Zahlen: Ist sich das Modell sehr sicher, reicht ein einziges Token, um den Schwellwert zu erreichen, und die Auswahl ist klein. Ist es unsicher, gehören viele Kandidaten zur Gruppe. Top-p passt die Größe der Auswahl also an die Lage an.
Je niedriger der Schwellwert, desto enger die Auswahl und desto konservativer der Text. Bei einem Schwellwert von eins sind alle Tokens zugelassen, der Regler hat dann keine Wirkung. Der Vorteil gegenüber der Temperature: Top-p schneidet absurde Ausreißer ab und verhindert, dass ein sehr unwahrscheinliches Token den Satz entgleisen lässt.
Temperature und Top-p im Vergleich
Beide Regler verändern die Streuung, aber an verschiedenen Stellen. Die folgende Übersicht fasst den Unterschied zusammen.
| Merkmal | Temperature | Top-p |
|---|---|---|
| Wirkungsweise | Verändert die Form der Wahrscheinlichkeiten | Schneidet unwahrscheinliche Kandidaten ab |
| Wirkt auf | Alle Tokens | Nur die Auswahlgruppe |
| Wirkung bei niedrigem Wert | Sehr vorhersehbar | Enge Auswahl |
| Risiko bei hohem Wert | Sprunghafte, unsinnige Wendungen | Kaum Wirkung bei Maximalwert |
| Typischer Einsatz | Grad an Abwechslung festlegen | Ausreißer begrenzen |
Viele Anbieter raten, nur einen der beiden Regler zu verändern und den anderen auf dem Standardwert zu lassen. Der Grund: Beide wirken zusammen, und wer an beiden dreht, kann die Wirkung kaum noch einordnen.
Welche Einstellung für welche Aufgabe
Es gibt keine universell richtige Einstellung, wohl aber sinnvolle Richtungen:
- Fakten, Zusammenfassungen, Datenextraktion: niedrige Temperature. Hier zählt Verlässlichkeit, Abweichungen sind unerwünscht.
- Programmcode und Formatvorgaben: niedrige Temperature, weil kleine Abweichungen Fehler verursachen.
- Allgemeine Dialoge: mittlere Werte, meist die Voreinstellung des Anbieters.
- Ideensammlung, Namen, Slogans: höhere Temperature, damit die Vorschläge nicht alle gleich klingen.
- Erzählende Texte: höhere Werte, bei Bedarf mit Top-p als Sicherung gegen Ausreißer.
Probieren Sie denselben Auftrag mehrmals mit verschiedenen Einstellungen aus und vergleichen Sie die Ergebnisse. Das ist aufschlussreicher als jede Faustregel. Wie Sie die Anweisung selbst verbessern, steht unter Prompts schreiben; oft bringt ein klarerer Prompt mehr als jede Reglerstellung.
Wo Sie die Regler finden
Je nach Zugang sieht man die Parameter unterschiedlich. Bei Programmierschnittstellen setzt man sie als Angabe im Aufruf. In Chatoberflächen von Cloud-Diensten sind sie häufig nicht sichtbar, dort gelten feste Voreinstellungen.
Wer Modelle auf dem eigenen Rechner betreibt, hat meist am meisten Spielraum. Programme wie die im Vergleich von LM Studio, Ollama und AnythingLLM zeigen die Sampling-Einstellungen offen an und erlauben Experimente ohne Kosten pro Anfrage. Einstieg und Voraussetzungen erklärt der Beitrag zu lokalen Modellen.
Neben Temperature und Top-p existieren weitere Regler. Top-k begrenzt die Auswahl auf eine feste Zahl von Kandidaten. Strafen für Wiederholungen dämpfen Tokens, die schon vorkamen. Die Maximallänge begrenzt die Antwort; ihre Kosten lassen sich mit dem Token-Rechner grob abschätzen.
Warum dieselbe Anfrage verschiedene Antworten liefert
Wer ein Sprachmodell zweimal dasselbe fragt und zwei unterschiedliche Antworten erhält, vermutet schnell einen Fehler. Tatsächlich ist es Absicht. Das Modell zieht bei jedem Token aus einer Verteilung, und kleine Unterschiede am Anfang schaukeln sich im Verlauf auf. Ein anderes erstes Wort führt zu einem anderen Satzbau, der wiederum andere Folgewörter nahelegt.
Für manche Anwendungen ist das erwünscht, etwa bei Brainstorming. Für andere ist es lästig, zum Beispiel bei automatischer Auswertung, wo gleiche Eingaben gleiche Ergebnisse liefern sollen. Dann empfiehlt sich eine niedrige Temperature, ein klar formulierter Prompt und gegebenenfalls ein festgelegter Startwert für den Zufall, sofern der Dienst ihn anbietet.
Wer Ergebnisse prüfen muss, sollte außerdem mehrere Durchläufe vergleichen. Weichen die Antworten bei einer Sachfrage stark voneinander ab, ist das ein Warnsignal: Das Modell ist dann selbst unsicher.
Ein Wort zur Vorsicht bei extremen Einstellungen: Sehr hohe Temperature-Werte führen häufig zu Texten, die grammatisch zerfallen oder zwischen Sprachen springen. Sehr niedrige Werte erzeugen dagegen Schleifen, in denen sich dieselbe Wendung wiederholt. Die brauchbare Mitte liegt meist näher an der Voreinstellung, als man denkt, und lässt sich nur durch Ausprobieren auf die eigene Aufgabe zuschneiden.
Häufige Missverständnisse
Rund um die Regler halten sich einige Irrtümer.
- „Temperature null verhindert Fehler.“ Nein. Das Modell wählt dann konsequent das wahrscheinlichste Token, doch das ist nicht automatisch das richtige. Halluzinationen entstehen auch bei niedrigen Werten.
- „Höhere Temperature macht Texte besser.“ Sie macht sie vielfältiger. Ob das nützt, bestimmt die Aufgabe.
- „Gleiche Eingabe, gleiche Ausgabe.“ Nur bedingt. Selbst bei niedrigen Werten können technische Details wie parallele Berechnung zu leichten Abweichungen führen.
- „Beide Regler zusammen verstärken sich nützlich.“ Meist verwischen sie sich. Eine Stellschraube nach der anderen zu ändern ist der sauberere Weg.
Ebenso wenig ersetzen die Regler eine gute Faktenbasis. Wenn ein Modell zuverlässig aus eigenen Dokumenten antworten soll, hilft eher RAG oder die Abwägung unter Fine-Tuning oder RAG.
Parameter in der Praxis dokumentieren
Sobald ein Sprachmodell in einem Arbeitsablauf läuft, sollten die Einstellungen schriftlich festgehalten werden. Notieren Sie Modellname, Version, Temperature, Top-p, Maximallänge und das Datum. Ändert der Anbieter später das Modell oder seine Voreinstellungen, lassen sich abweichende Ergebnisse so erklären.
Das gilt besonders im Team. Wenn eine Kollegin dieselbe Aufgabe mit anderen Reglern ausführt, vergleichen Sie am Ende Äpfel mit Birnen. Eine gemeinsame Konfigurationsdatei oder ein kurzer Vermerk im Projektordner löst das Problem ohne großen Aufwand.
Prüfen Sie außerdem, ob der Anbieter bestimmte Werte stillschweigend begrenzt oder überschreibt. Manche Dienste lassen nur einen Teil der möglichen Skala zu, andere ignorieren Parameter bei bestimmten Modellen. Ein Probelauf mit zwei extremen Einstellungen zeigt schnell, ob der Regler überhaupt wirkt.
Eine einfache Testreihe zum Ausprobieren
Um ein Gefühl für die Parameter zu entwickeln, genügt ein kleiner Versuch. Wählen Sie eine offene Aufgabe, zum Beispiel „Nenne einen Namen für ein Café“. Lassen Sie das Modell die Anfrage fünfmal beantworten, zuerst mit niedriger, dann mit hoher Temperature.
Bei niedrigen Werten wiederholen sich die Antworten fast wörtlich. Bei hohen Werten tauchen neue Vorschläge auf, einige davon unbrauchbar. Wiederholen Sie den Versuch mit einer Sachfrage. Hier zeigt sich der Preis der Streuung: Je höher die Temperature, desto eher schleichen sich Ungenauigkeiten ein.
Notieren Sie Ihre Beobachtungen und halten Sie die Einstellung fest, die für Ihre Aufgabe am besten funktioniert. Weitere Grundbegriffe finden Sie im Lexikon, Einordnungen zu Modellen im Bereich Ratgeber.
Fragen und Antworten
Was bewirkt die Temperature bei einem Sprachmodell?
Sie steuert, wie stark die Auswahl des nächsten Tokens streut. Niedrige Werte führen zu vorhersehbaren, konstanten Antworten, hohe Werte zu abwechslungsreicheren, aber auch fehleranfälligeren Texten.
Was ist der Unterschied zwischen Temperature und Top-p?
Temperature verändert die Wahrscheinlichkeiten aller Tokens. Top-p begrenzt die Auswahl auf die wahrscheinlichsten Kandidaten, deren Summe einen Schwellwert erreicht. Beide beeinflussen die Streuung, wirken aber an unterschiedlichen Stellen.
Sollte ich Temperature und Top-p gleichzeitig ändern?
Meist nicht. Viele Anbieter empfehlen, nur einen Regler anzupassen und den anderen auf dem Standardwert zu lassen, damit die Wirkung nachvollziehbar bleibt.
Verhindert Temperature null Halluzinationen?
Nein. Das Modell wählt dann konsequent das wahrscheinlichste Token, doch das kann trotzdem falsch sein. Gegen erfundene Fakten helfen eher gute Quellen im Prompt oder ein RAG-Aufbau.