Chunking, im AI-Kontext.
Chunking zerlegt Dokumente in sinnvolle Abschnitte, bevor sie als Embeddings abgelegt werden. Der Schnitt entscheidet über die Qualität der RAG-Antwort.
Chunking ist das Zerlegen längerer Dokumente in kleinere Abschnitte, bevor diese als Embeddings in einer Vector-Database landen. Der Schnitt bestimmt, was die Suche später überhaupt finden kann: zu kleine Abschnitte verlieren den Zusammenhang, zu große schleppen Ballast mit und verwässern die Ähnlichkeitssuche. Bewährt hat sich der Schnitt entlang der Dokumentstruktur, also nach Überschriften, Absätzen oder Tabellenzeilen, mit einer kleinen Überlappung zwischen benachbarten Abschnitten. Jeder Abschnitt braucht Herkunftsangaben wie Titel, Kapitel und Stand, sonst kann die Antwort später nicht sauber zitieren. Bei Änderungen am Quelldokument müssen die betroffenen Abschnitte neu erzeugt werden.
Beispiele aus dem Mittelstand
- Ein Anlagenbauer zerlegt Wartungshandbücher entlang der Kapitelstruktur, damit Antworten auf die richtige Baugruppe verweisen.
- Eine Hausverwaltung schneidet Mietverträge nach Paragrafen statt nach Seitenzahl, weil sonst Regelungen mitten im Satz abreißen.
Folge-Fragen
Wie groß sollte ein Abschnitt sein?
So groß, dass er für sich allein verständlich ist, und so klein, dass er genau ein Thema behandelt. Die Dokumentstruktur ist der bessere Maßstab als eine feste Zeichenzahl.
Wozu die Überlappung zwischen Abschnitten?
Damit ein Gedanke, der über eine Grenze läuft, nicht zerschnitten wird. Eine kleine Überlappung genügt, zu viel bläht den Bestand auf.
Was gehört als Metadaten an jeden Abschnitt?
Quelle, Titel, Kapitel, Version und Stand. Ohne diese Angaben lässt sich weder zitieren noch gezielt filtern.
Was passiert bei Änderungen im Dokument?
Die betroffenen Abschnitte müssen neu geschnitten und neu eingebettet werden. Ohne diesen Pflegeschritt antwortet das System aus einer veralteten Fassung.
Chunking in der Praxis.
Wo dieser Begriff in deinem Geschäft konkret wird, beginnt die Arbeit. Wir nennen klar, ob die Idee in unser Studio passt.
Künstliche Intelligenz