Direkt zum Inhalt
Text-Technology
Navigation

Definition

Trainingsdaten

Trainingsdaten sind die Beispiele, aus denen ein Modell Muster lernt, und bestimmen wesentlich, was es später gut oder schlecht kann.

Trainingsdaten sind die Grundlage jedes lernenden Verfahrens. Ein Modell übernimmt nur, was in diesen Beispielen vorkommt: Wortformen, Stile, Fehler und Wertungen. Deshalb entscheidet die Auswahl der Daten über Stärken und Schwächen des Ergebnisses.

Bei großen Sprachmodellen stammen Trainingsdaten aus sehr umfangreichen Sammlungen, bei kleineren Werkzeugen oft aus einem eigenen, von Hand annotierten Korpus. Die Menge allein genügt nicht. Doppelte, fehlerhafte oder unpassende Beispiele verschlechtern das Ergebnis.

Für Projekte gilt: Herkunft, Lizenz und Bereinigung der Trainingsdaten gehören dokumentiert, sonst bleibt unklar, warum ein Werkzeug versagt. Ein Modell wird deshalb nur so gut sein, wie seine Trainingsdaten vielfältig, sauber und zur späteren Aufgabe passend waren.

Verwandte Begriffe

  • KorpusKorpus ist eine systematisch zusammengestellte, digital vorliegende Sammlung von Texten für sprachwissenschaftliche Untersuchungen.
  • PretrainingPretraining ist die erste, große Trainingsphase eines Sprachmodells auf allgemeinen Textmengen, in der es Sprache und Weltwissen grundlegend lernt.
  • BiasBias ist eine systematische Verzerrung in Daten oder Modellen, durch die bestimmte Gruppen oder Sichtweisen bevorzugt werden.
  • AnnotationAnnotation ist die Anreicherung von Texten mit zusätzlichen, maschinenlesbaren Informationen wie Wortarten, Strukturen oder Bedeutungen.