KI-Lexikon

Das erste große deutschsprachige KI-Lexikon

Ein Community-Projekt von David Mirga

← Zurück zur Übersicht

Lora Rank

Ein Hyperparameter bei der Verwendung von LoRA (Low-Rank Adaptation). Der "Rank" (Rang) bestimmt die Dimensionalität bzw. die Größe der niedrigrangigen Adaptionsmatrizen, die während des Fine-Tunings trainiert werden. Ein höherer Rang bedeutet mehr trainierbare Parameter und potenziell eine größere Anpassungsfähigkeit, aber auch höheren Rechenaufwand. Ein "lower rank" bezieht sich entsprechend auf einen niedrigeren Wert für diesen Parameter.

Kategorie: L | Quelle: Das große KI-Lexikon von David Mirga