Pretraining
Der initiale Trainingsprozess eines großen KI-Modells (insbesondere LLMs) auf einem riesigen, allgemeinen Datensatz (z.B. großen Teilen des Internets), bei dem das Modell grundlegende Sprachfähigkeiten, Muster und Wissen lernt, bevor es eventuell für spezifischere Aufgaben feingetunt wird (Post-Training).