Eine KI-Wissensdatenbank steht und fällt damit, ob sie zu einer Frage die richtigen Stellen aus Ihren Dokumenten findet. Die einfachste Bauart — nur eine semantische Suche — reicht für viele Fälle, hat aber eine blinde Stelle. Advanced RAG schließt sie mit zwei Bausteinen: Hybrid Search und Reranking. Hier steht, was beide tun und warum sie zusammen der heutige Praxis-Standard sind.

Naive, Advanced, Agentic RAG — die drei Reifegrade

RAG-Systeme werden meist in drei Stufen eingeteilt. Der Unterschied liegt darin, wie sorgfältig sie die passenden Stellen heraussuchen:

• Naive RAG: nur semantische Suche nach Bedeutung. Schnell gebaut, gut für einfache Fälle — aber schwach bei exakten Begriffen.
• Advanced RAG: ergänzt die Stichwortsuche und ein Reranking. Der Praxis-Standard, um den es hier geht.
• Agentic RAG: ein KI-Agent steuert die Suche selbst, zerlegt komplexe Fragen und sucht mehrfach. Mächtiger, aber deutlich aufwendiger.

Warum semantische Suche allein nicht reicht

Die semantische Suche vergleicht Bedeutung: Sie findet Stellen, die inhaltlich zur Frage passen, auch wenn dort andere Worte stehen. Das ist ihre Stärke — und zugleich ihre Schwäche. Bei exakten Begriffen wird sie unscharf: Eine bestimmte Artikelnummer, ein Produktname, ein Paragraf oder ein Fachbegriff, auf den es genau ankommt, geht in der Bedeutungssuche leicht unter, weil „ungefähr ähnlich“ hier nicht genügt.

Hybrid Search: Bedeutung und Wortlaut zusammen

Hybrid Search löst das, indem zwei Suchen parallel laufen: die semantische Suche nach Bedeutung und die klassische Stichwortsuche (BM25) nach dem exakten Wortlaut. Beide liefern je eine Trefferliste. Ein Verfahren namens Reciprocal Rank Fusion (RRF) führt die zwei Listen zu einer zusammen — eine Textstelle (oft „Chunk“ genannt), die in beiden weit oben steht, gewinnt. So kommt der Abschnitt nach vorne, der sowohl sinngemäß als auch wörtlich passt.

Reranking: die letzte Qualitätsstufe

Nach der Hybrid-Suche liegt eine zusammengeführte Vorauswahl vor — sagen wir die 20 besten Stellen. Das Reranking ist die Feinsortierung: Ein spezialisiertes Modell liest die Frage zusammen mit jeder einzelnen Stelle und bewertet, wie gut sie wirklich antwortet. Anders als die schnelle Erst-Suche vergleicht es Frage und Textstelle direkt miteinander — und ist dadurch präziser. Am Ende gehen nur die besten drei bis vier Stellen an das Sprachmodell.

Was Advanced RAG in der Praxis bringt

• Findet auch exakte Begriffe — Eigennamen, Artikelnummern, Fachbegriffe, an denen reine Bedeutungssuche scheitert.
• Verlässlichere Rangfolge: die wirklich passenden Stellen landen oben, nicht nur die ungefähr ähnlichen.
• Weniger Halluzination: das Sprachmodell bekommt nur die besten drei bis vier Stellen statt einen Berg mittelmäßiger Treffer.
• Belegbare Antworten: weil die richtige Quelle zuverlässiger gefunden wird, stimmt auch der Quellenverweis.

Wann Advanced RAG reicht — und wann nicht

Advanced RAG ist der sinnvolle Standard für die allermeisten Unternehmens-Anwendungen. Darüber hinaus gibt es aufwendigere Architekturen — etwa GraphRAG (Wissen als Netz aus Beziehungen) oder Agentic RAG. Sie lösen Spezialfälle, kosten aber deutlich mehr Aufbau und Wartung. Für eine Wissens-App, die Fragen aus Handbüchern, Verträgen oder Tickets beantwortet, ist das selten nötig.