Definition
Sprachmodell
Sprachmodell ist ein statistisches oder neuronales Modell, das Wahrscheinlichkeiten für Wortfolgen berechnet und damit Text vorhersagt oder erzeugt.
Ein Sprachmodell lernt aus großen Textmengen, welche Wörter oder Tokens wahrscheinlich aufeinander folgen. Daraus entsteht die Fähigkeit, Sätze fortzusetzen, Fragen zu beantworten oder Text umzuformulieren. Der Begriff umfasst einfache Wortfolgemodelle ebenso wie heutige große neuronale Netze.
Im Alltag begegnen Nutzern Sprachmodelle als Chatassistenten, in Textvorschlägen oder in Übersetzungsdiensten. Technisch entscheidend sind Architektur, Trainingsdaten und die Menge der Trainingsschritte, nicht nur die Größe.
Ein Sprachmodell kennt keine Wahrheit im eigentlichen Sinn. Es erzeugt Text, der zu seinen Daten passt. Deshalb sind Ergebnisse stets zu prüfen, besonders bei Fakten und Quellen. Wer ein Modell einsetzt, sollte daher wissen, auf welchen Texten es trainiert wurde und wo seine Lücken liegen.
Verwandte Begriffe
- LLMLLM steht für Large Language Model, ein sehr großes Sprachmodell, das auf umfangreichen Textmengen trainiert wurde und vielseitige Sprachaufgaben löst.
- TransformerTransformer ist eine neuronale Netzwerkarchitektur, die Beziehungen zwischen allen Elementen einer Eingabe über sogenannte Aufmerksamkeit gewichtet.
- TokenToken ist die kleinste Einheit, in die ein Sprachmodell Text zerlegt, bevor es ihn verarbeitet.
- HalluzinationHalluzination bezeichnet eine von einem Sprachmodell erzeugte Aussage, die plausibel klingt, aber nicht durch Fakten oder Quellen gedeckt ist.