Definition
Feinabstimmung
Feinabstimmung, auf Englisch Fine-Tuning, ist das weitere Training eines vortrainierten Modells auf einem kleineren, gezielten Datensatz.
Bei der Feinabstimmung wird ein bereits trainiertes Modell mit zusätzlichen Beispielen nachtrainiert. Dadurch lernt es eine bestimmte Aufgabe, einen Stil oder ein Fachvokabular besser zu beherrschen. Das ist meist günstiger als ein Training von Grund auf, weil das allgemeine Sprachwissen erhalten bleibt.
Typische Beispiele sind Klassifikation von Dokumenten, Erkennung von Fachbegriffen oder Antworten im Stil eines Hauses. Die Qualität hängt stark an den Beispielen. Wenige, fehlerhafte oder einseitige Daten verschlechtern das Ergebnis.
Nicht jede Aufgabe braucht Feinabstimmung. Oft genügen gute Prompts oder der Abruf passender Quellen. Feinabstimmung lohnt sich, wenn ein Verhalten dauerhaft und reproduzierbar gebraucht wird.
Verwandte Begriffe
- PretrainingPretraining ist die erste, große Trainingsphase eines Sprachmodells auf allgemeinen Textmengen, in der es Sprache und Weltwissen grundlegend lernt.
- LLMLLM steht für Large Language Model, ein sehr großes Sprachmodell, das auf umfangreichen Textmengen trainiert wurde und vielseitige Sprachaufgaben löst.
- PromptPrompt ist die Eingabe an ein Sprachmodell, mit der Aufgabe, Kontext und gewünschtes Format beschrieben werden.
- AnnotationAnnotation ist die Anreicherung von Texten mit zusätzlichen, maschinenlesbaren Informationen wie Wortarten, Strukturen oder Bedeutungen.