RAG

Retrieval-Augmented-Generation (RAG) kombiniert semantische Suche über Vektordatenbanken mit LLM-basierter Textgenerierung. Der Retrieval-Schritt findet Dokumente anhand ihrer Bedeutung statt anhand von Keywords. Der Generation-Schritt formuliert daraus eine kontextbezogene Antwort inklusive Quellenangaben.

Typische Anwendungsfälle sind interne Wissensdatenbanken, Dokumentationssuche oder Kundenservice-Assistenten. In internen Pilotprojekten haben wir Potenzial gesehen und beobachten das Feld weiter im Kontext von LLM-Integration und Agentic-Engineering. Die Qualität hängt stark von der Aufbereitung der Quelldaten, der Wahl der Embedding-Modelle und der Chunk-Strategie ab. Wir wollen RAG in einem konkreten Projekt produktiv evaluieren und gegen einfachere Ansätze (z.B. direktes Befüllen des Kontextfensters mit relevanten Dokumenten) abgleichen.