Fine-Tuning, RAG oder Prompting: Was brauchen Sie?

Drei Techniken werden vorgeschlagen, um ein KI-System auf Ihr Unternehmen zuzuschneiden, und sie werden regelmäßig verwechselt. Sie lösen verschiedene Probleme, kosten unterschiedlich viel, und es gibt eine sinnvolle Reihenfolge, in der man danach greift.

Prompting

Was es ist: bessere Anweisungen schreiben – Aufgabe, Publikum, Format und Grenzen beschreiben und Beispiele guter Ergebnisse mitgeben.

Was es behebt: Ergebnisse im falschen Ton, falschen Format, falscher Länge oder mit fehlenden Inhalten. Also die meiste anfängliche Enttäuschung.

Kosten: Stunden, keine Infrastruktur, sofort umkehrbar.

Hier fängt man immer an. Ein erheblicher Teil der Probleme, die als Begründung für Fine-Tuning vorgebracht werden, entpuppt sich als Prompt, der nie gesagt hat, was gewünscht war.

Abruf (RAG)

Was es ist: relevante Passagen aus Ihren Dokumenten finden und mit der Frage mitliefern, sodass Antworten in Ihrem Material verankert sind.

Was es behebt: dass das System Ihre spezifischen Fakten nicht kennt – Richtlinien, Produkte, Verträge, Abläufe. Behebt auch Veralten, denn ein aktualisiertes Dokument aktualisiert die Antworten.

Kosten: mittel. Dokumentenverarbeitung, ein Index, Abruflogik und laufende Pflege der Inhalte.

Greifen Sie danach, wenn die Lücke Wissen ist. Lautet die Beschwerde „es kennt unsere Rückgaberegelung nicht“, ist das die Antwort – nicht Fine-Tuning.

Fine-Tuning

Was es ist: Weitertraining eines Modells auf vielen Beispielen Ihrer Eingaben und gewünschten Ausgaben, wodurch das Modell selbst angepasst wird.

Was es behebt: konsequentes Einhalten eines sehr spezifischen Stils oder Ausgabeformats über große Mengen, und manchmal geringere Kosten pro Anfrage, weil Anweisungen nicht wiederholt werden müssen.

Kosten: hoch. Sie brauchen eine erhebliche Menge hochwertiger Beispiele – typischerweise Hunderte bis Tausende – plus Trainingslauf, Auswertung und eine Wiederholung von allem, wenn sich Anforderungen ändern oder Sie auf ein neueres Basismodell wechseln wollen.

Entscheidend: Fine-Tuning ist ein schlechter Weg, Fakten beizubringen. Es formt Verhalten und Stil. So vermittelte Fakten werden unzuverlässig aufgenommen, lassen sich nicht belegen und sind umständlich zu aktualisieren. Schlägt jemand Fine-Tuning vor, damit das Modell „Ihre Daten kennt“, ist das ein Signal für Rückfragen.

Die Reihenfolge

  1. Den Prompt verbessern. Beispiele ergänzen. An echten Fällen messen.
  2. Ist die Lücke fehlendes Wissen, Abruf ergänzen.
  3. Brauchen Sie danach noch starre stilistische Konsistenz in großer Menge – Fine-Tuning erwägen.

Die meisten Unternehmen erreichen Schritt drei nie, und das ist ein gutes Ergebnis, kein Defizit.

Welches Sie brauchen

Fragen Sie, was am Ergebnis tatsächlich falsch ist.

Falsche Fakten über Ihr Unternehmen → Abruf. Richtige Fakten, falsches Format oder falscher Ton → Prompting. Richtig und gut formatiert, aber über Tausende Vorgänge hinweg uneinheitlich trotz gutem Prompt → möglicherweise Fine-Tuning. Selbstsicher erfundene Details → Abruf plus ausdrückliche Erlaubnis, die Antwort zu verweigern.

Eine Anmerkung zu den Kosten

Die drei werden oft als Stufenleiter der Leistungsfähigkeit dargestellt, was dazu verleitet, nach der aufwendigsten zu greifen. Tatsächlich ist es eine Leiter aus Kosten und Bindung. Prompting ist beinahe gratis und vollständig umkehrbar. Fine-Tuning schafft einen Vermögenswert, den Sie pflegen müssen, und bindet Sie an Entscheidungen, deren Revision teuer wird.

Fangen Sie billig und umkehrbar an. Steigen Sie erst auf, wenn Sie aus echten Fällen Belege haben, dass die günstigere Variante nicht ausreicht.

Alle Artikel
Sprechen wir

über den Prozess,
den KI übernehmen soll.