Deine Unterlagen werden in Abschnitte geteilt
Lange Dokumente werden in verdauliche Häppchen zerlegt — etwa absatzweise. So kann später genau die eine passende Stelle gefunden werden, nicht nur „irgendwo in diesem 80-Seiten-PDF".
Stell einer KI eine Frage zu deinem eigenen Geschäft — und sie zuckt mit den Schultern. Kein Wunder: Sie kennt deine Angebote nicht, deine Kunden nicht, deine Notizen nicht.
Auf der Seite über den eigenen Server kam dafür ein Bild vor: der Aktenschrank in deiner Werkstatt. Hier schauen wir uns in Ruhe an, wie dieser Aktenschrank von innen funktioniert — und warum das weniger Zauberei ist, als es klingt.
Eine Chat-KI wie Claude hat beim Training riesige Mengen öffentlicher Texte gelesen — aber eben nicht deine Dokumente. Und alles bei jeder Frage komplett mitzuschicken, geht auch nicht: Deine gesammelten Unterlagen sind dafür schlicht zu viel.
Die Lösung ist verblüffend menschlich: Die KI muss nicht alles auswendig wissen. Sie muss nur nachschlagen können.
Genau das macht ein Verfahren namens RAG (kurz für „Retrieval-Augmented Generation" — auf Deutsch etwa: erst nachschlagen, dann antworten). Es besteht aus zwei Schritten: Zuerst werden die passenden Stellen aus deinen Unterlagen herausgesucht, und erst dann formuliert die KI ihre Antwort — mit genau diesen Stellen vor der Nase.
RAG heißt: Die KI antwortet nicht aus dem Bauch, sondern schlägt vorher in deinen Unterlagen nach — wie eine gute Bibliothekarin, die erst das richtige Buch holt.
Jetzt kommt der spannende Teil: Wie findet man in tausenden Seiten die passenden Stellen?
Die Suche, die du von deinem Computer kennst, ist eine Stichwortsuche. Sie findet nur exakt das Wort, das du eintippst. Suchst du nach „Urlaub", findet sie das Dokument nicht, in dem „freie Tage" oder „Ferien" steht. Suchst du nach „Gerät wird heiß", übersieht sie die Anleitung, in der von „Überhitzung" die Rede ist.
Menschen merken sofort: Das meint doch dasselbe. Eine Stichwortsuche merkt das nicht.
Deshalb nutzt RAG eine semantische Suche (von „Semantik" — die Lehre von der Bedeutung). Sie sucht nicht nach dem Wortlaut, sondern nach dem Sinn dahinter. Die Frage „Gerät wird heiß" findet das Kapitel über Überhitzung — obwohl kein einziges Wort übereinstimmt.
Stichwortsuche findet Wörter. Semantische Suche findet Bedeutung.
Wie kann ein Computer nach Bedeutung suchen? Dafür braucht es ein eigenes, spezielles Werkzeug: ein sogenanntes Embeddings-Modell.
Dieses Modell macht nur eine einzige Sache, die aber richtig gut: Es übersetzt einen Text in eine lange Zahlenreihe — eine Art Bedeutungs-Koordinaten (der Fachbegriff dafür ist „Vektor"). Du kannst dir das wie eine riesige Landkarte vorstellen: Jeder Textabschnitt bekommt einen Ort auf dieser Karte. Und das Besondere daran: Texte mit ähnlicher Bedeutung landen nah beieinander. „Ferien", „Urlaub" und „freie Tage" liegen auf dieser Karte fast am selben Fleck — obwohl die Wörter völlig verschieden sind.
Suchen heißt dann nur noch: Schau, welche Abschnitte auf der Karte am nächsten an der Frage liegen. Das kann ein Computer blitzschnell.
Wichtig zu wissen: Das Embeddings-Modell ist nicht die Chat-KI. Es sind zwei verschiedene Werkzeuge mit zwei verschiedenen Jobs. Das Embeddings-Modell versteht und verortet — es kann selbst gar keine Antworten schreiben. Die Chat-KI formuliert — aber ohne die Koordinaten würde sie die richtigen Stellen nie finden. Für ein RAG-System brauchst du beide. Die gute Nachricht: Embeddings-Modelle sind klein, schnell und günstig — es gibt sie bei den großen Anbietern über die Schnittstelle, und manche laufen sogar komplett auf deinem eigenen Server.
Das Embeddings-Modell übersetzt Texte in Bedeutungs-Koordinaten. Es antwortet nicht — es sorgt dafür, dass die richtigen Stellen gefunden werden.
Lange Dokumente werden in verdauliche Häppchen zerlegt — etwa absatzweise. So kann später genau die eine passende Stelle gefunden werden, nicht nur „irgendwo in diesem 80-Seiten-PDF".
Das Embeddings-Modell liest jeden Abschnitt einmal und errechnet seine Bedeutungs-Koordinaten. Die landen in einer speziellen Datenbank (einer sogenannten Vektordatenbank — dein nach Bedeutung sortierter Aktenschrank). Das passiert einmal am Anfang — und danach immer dann, wenn neue Dokumente dazukommen.
Jemand fragt: „Gilt die Garantie auch bei Wasserschaden?" Auch diese Frage bekommt vom selben Embeddings-Modell ihre Koordinaten.
Die Datenbank schaut: Welche Abschnitte liegen auf der Bedeutungs-Landkarte am nächsten an der Frage? Die drei, vier besten Fundstellen werden herausgeholt — der Rest bleibt liegen.
Erst jetzt kommt die Chat-KI ins Spiel: Sie bekommt die Frage und die Fundstellen und formuliert daraus eine Antwort. Auf Wunsch mit Quellenangabe: „Steht in deinen Garantiebedingungen, Abschnitt 4."
Drei Dinge sollte man wissen. Erstens: Änderst du ein Dokument, muss es neu eingelesen werden — sonst schlägt die KI in der alten Fassung nach. Das lässt sich zum Glück automatisieren.
Zweitens: Frage und Unterlagen müssen mit demselben Embeddings-Modell verarbeitet werden. Wechselst du das Modell, müssen alle Unterlagen einmal neu eingelesen werden — die neue Landkarte hat sonst andere Koordinaten als die alte.
Drittens: Die Qualität steht und fällt mit der Vorbereitung. Sauber aufgeteilte, aktuelle Unterlagen liefern gute Antworten — ein unsortierter Datenberg liefert unsortierte Ergebnisse. Dafür hat RAG einen ehrlichen Vorteil: Findet die Suche nichts Passendes, kann die KI das offen sagen, statt zu raten.
Auf deinem eigenen Server wird daraus ein Werkzeug für jeden Tag. Ein paar Beispiele, wie das bei Selbstständigen und kleinen Teams aussieht:
Deine früheren Antworten, Produktinfos und Preislisten liegen im Aktenschrank. Kommt eine neue Anfrage, holt sich die KI die passenden Stellen und schreibt einen Antwortentwurf — fachlich richtig, in deinem Ton. Du prüfst nur noch und schickst ab.
„Was hatten wir Familie Berger 2024 für die Terrasse angeboten?" — statt in Ordnern zu wühlen, fragst du einfach. Die semantische Suche findet das Angebot auch dann, wenn dort „Außenbereich" statt „Terrasse" steht.
Besucher fragen in ihren eigenen Worten — und bekommen Antworten aus deinen Unterlagen: Leistungen, Preise, Abläufe, häufige Fragen. Nicht aus dem Internet zusammengeraten, sondern aus dem, was du selbst hinterlegt hast.
Sprachnotizen, Besprechungsprotokolle, Geistesblitze von unterwegs — alles wandert in den Aktenschrank. Monate später fragst du: „Was war noch mal die Idee mit den Geschenkgutscheinen?" Und sie ist wieder da.
Die Bedienungsanleitungen deiner Maschinen und Geräte, deine eigenen Arbeitsanleitungen fürs Team: Statt Seite 47 zu suchen, fragt man „Wie stelle ich die Temperatur ein?" — und bekommt die Stelle samt verständlicher Erklärung.
„Zeig mir alle Ausgaben rund ums Auto" findet Tankquittungen, die Werkstattrechnung und die Kfz-Versicherung — obwohl auf keinem der Belege das Wort „Auto" steht. Genau das kann eine Stichwortsuche nicht.
Und weil das alles auf deinem eigenen Server läuft, gilt, was auf der ersten Seite stand: Der Aktenschrank steht bei dir. Für jede Frage gehen nur die paar gefundenen Abschnitte mit — alles andere bleibt, wo es hingehört. Dein Wissen arbeitet für dich, ohne dein Haus zu verlassen.
Vier Begriffe, ein Zusammenspiel — mehr steckt nicht dahinter:
Nachschlagen statt auswendig wissen, Bedeutung statt Wortlaut, dein Schrank statt fremde Regale — so wird aus einem Stapel Dokumente ein Gedächtnis, das mitdenkt.
Gar nicht so kompliziert, oder? Wenn du wissen willst, auf welchem Fundament das Ganze läuft, findest du auf der Seite über den eigenen Server für KI-Workflows die passende Grundlage.