Einstieg ins Fine-Tuning: LoRA und QLoRA
Wenn Prompt-Engineering und RAG nicht mehr reichen, kann Fine-Tuning ein Modell einen bestimmten Stil oder eine Aufgabe zuverlässig lernen lassen. Dieses Tutorial stellt die gängigsten effizienten Methoden vor: LoRA und QLoRA.
VonAI Resource Hub
Wann braucht man wirklich Fine-Tuning?
Geht es nur darum, Wissen zu ergänzen, ist RAG die bessere Wahl. Fine-Tuning lohnt sich eher, wenn du einen festen Ausgabestil oder ein festes Format brauchst – oder ein kleines Modell eine bestimmte Aufgabe lernen soll.
Fine-Tuning verlangt eine gewisse Menge hochwertiger, gelabelter Daten – überlege dir also Ziele und Bewertungsansatz, bevor du investierst.
Die Kosten des vollständigen Fine-Tunings
Beim Full-Parameter-Fine-Tuning werden sämtliche Modellgewichte aktualisiert – mit enormen Speicher- und Rechenkosten. Bei großen Modellen ist das für Einzelpersonen und kleine Teams kaum zu stemmen.
Die Kernidee von LoRA
LoRA (Low-Rank Adaptation) friert die Originalgewichte ein und setzt daneben ein Paar kleiner Low-Rank-Matrizen, die das „Delta“ lernen. Die trainierbaren Parameter machen oft nur ein Prozent des vollen Fine-Tunings aus – oder weniger.
Nach dem Training erhältst du einen winzigen Adapter, der sich bei Bedarf laden lässt – so kannst du bequem mehrere Sets für verschiedene Aufgaben pflegen.
QLoRA und Quantisierung
QLoRA baut auf LoRA auf und quantisiert das Basismodell vor dem Training auf 4 Bit – der Speicherbedarf sinkt noch einmal drastisch. So wird das Fine-Tuning recht großer Modelle auf einer einzelnen Consumer-GPU machbar.
Datenaufbereitung und Praxistipps
Datenqualität schlägt Datenmenge: Baue klare, konsistente Instruktions-Antwort-Paare, die deine Zielszenarien abdecken.
Starte mit kleiner Lernrate und wenigen Epochen, behalte die Validierungsleistung im Auge, um Overfitting zu vermeiden – und nutze Bibliotheken wie Hugging Face PEFT für den schnellen Einstieg.
Adapter zusammenführen und deployen
Nach dem Training kannst du die LoRA-Gewichte entweder ins Basismodell zurückführen und eine einzelne Datei erhalten, oder sie getrennt halten und bei Bedarf laden. Zusammenführen ist einfacher fürs Deployment, aber du verlierst die Flexibilität, Adapter ohne Neuexport zu wechseln. Behalte separate Adapter, wenn du mehrere Aufgaben vom selben Basismodell bedienen willst; führe zusammen, wenn du ein einzelnes Artefakt für einen Zweck möchtest.