Definition
Bias
Bias ist eine systematische Verzerrung in Daten oder Modellen, durch die bestimmte Gruppen oder Sichtweisen bevorzugt werden.
Bias entsteht, wenn Trainingsdaten einseitig sind. Ein Modell, das überwiegend aus Texten einer Region oder Epoche lernt, übernimmt deren Sichtweisen und Stereotype. Die Verzerrung ist oft unauffällig, weil sie sich in der Flüssigkeit des Textes verbirgt.
Auch bei Annotationen und Korpora entstehen Verzerrungen, etwa wenn bestimmte Textsorten oder Autorengruppen fehlen. Solche Lücken beeinflussen jede Auswertung, die auf dem Korpus beruht.
Gegenmaßnahmen sind eine bewusste Auswahl der Quellen, Tests mit unterschiedlichen Gruppen und die Dokumentation der Herkunft aller Daten. Auch die Auswahl der Testfälle kann Verzerrungen verdecken, wenn sie die Lebenswirklichkeit einer Gruppe nicht abbildet.
Verwandte Begriffe
- KorpusKorpus ist eine systematisch zusammengestellte, digital vorliegende Sammlung von Texten für sprachwissenschaftliche Untersuchungen.
- PretrainingPretraining ist die erste, große Trainingsphase eines Sprachmodells auf allgemeinen Textmengen, in der es Sprache und Weltwissen grundlegend lernt.
- EvaluationEvaluation bezeichnet die systematische Prüfung, wie gut ein Sprachwerkzeug seine Aufgabe erfüllt, meist anhand von Messgrößen und Stichproben.
- SprachmodellSprachmodell ist ein statistisches oder neuronales Modell, das Wahrscheinlichkeiten für Wortfolgen berechnet und damit Text vorhersagt oder erzeugt.