Powered by

# Agentische Suche

Die Agentische Suche ersetzt das klassische einmalige Retrieval (RAG) durch einen iterativen, selbstgesteuerten Suchprozess. Ein dediziertes Suchmodell erhält eine Reihe von Werkzeugen (Tools) und entscheidet Runde für Runde eigenständig, wonach es sucht – bis es sich auf die relevantesten Passagen festlegt. Die Antwort wird anschließend als weiterer Schritt derselben Konversation generiert: Das antwortende Modell sieht dabei, welche Suchanfragen durchgeführt wurden und was die Wissensbasis tatsächlich geliefert hat.

Die Agentische Suche ist standardmäßig deaktiviert. Sie aktivieren sie über den Toggle im Bereich Suchstrategie – wahlweise an zwei Stellen:

  • Global unter KI-Interaktion > Informationssuche. Die Einstellung gilt dann für alle RAG-Agenten des Chatbots.
  • Für einen einzelnen Agenten im Agenten-Management, indem Sie dort die Suchkonfiguration überschreiben . So können Sie die Agentische Suche gezielt dort einsetzen, wo sie den größten Nutzen bringt, und den Mehraufwand für einfachere Agenten vermeiden.

Da die Agentische Suche das Retrieval aus der Wissensbasis ersetzt, ist sie nur für RAG-Agenten relevant.

# Wie der Such-Agent vorgeht

Der Agent arbeitet schrittweise und kombiniert dabei verschiedene Suchtechniken:

  • Bedeutungsbasierte Suche – findet Passagen, die inhaltlich zur Anfrage passen, auch wenn die genauen Begriffe nicht übereinstimmen
  • Begriffssuche – sucht gezielt nach exakten Wörtern oder Phrasen aus der Anfrage
  • Dokument durchlesen – liest ein Dokument bei Bedarf seitenweise in der Originalreihenfolge durch, um mehr Kontext zu gewinnen
  • Wissensbasis erkunden – verschafft sich einen Überblick über alle verfügbaren Inhalte und Dokumente
  • Suche abschließen – legt sich auf die relevantesten Passagen fest und beendet die Suchschleife

# Eignungsprüfung

Nach der Suchschleife durchläuft jede gefundene Passage eine Eignungsprüfung. Dabei wird nicht nur geprüft, ob eine Passage thematisch relevant ist – das leistet bereits die Ähnlichkeitssuche –, sondern ob das, was die Passage beschreibt, auf den konkret gefragten Fall tatsächlich zutrifft.

Für jede Passage entsteht ein Urteil:

  • Geeignet – die Passage wird für die Antwort verwendet
  • Ausgeschlossen – die Passage ist thematisch verwandt, trifft aber auf den gefragten Fall nicht zu
  • Unklar – keine eindeutige Einordnung möglich

Jedes Urteil wird mit dem ausschlaggebenden Satz begründet. Dieses Protokoll fließt sowohl in den Antwort-Prompt als auch in die Transparenzansicht im Conversation-Viewer ein.

# Absicherung und Fallback

Die Suchschleife ist auf maximal 6 Runden begrenzt. Wird dieses Limit erreicht, ohne dass der Agent die Suche abgeschlossen hat, werden die bis dahin besten Passagen verwendet. Schlägt der gesamte Lauf fehl oder ergibt die Auswahl keine verwertbaren Passagen, fällt das System automatisch auf klassisches RAG zurück. Eine Anfrage endet damit immer mit einem fundierten Antwortversuch – nie mit einem Fehler.

Eine Ausnahme gilt, wenn die Suchschleife unter Aufgaben-Modelle auf einem eigenen Modell läuft: Tritt dann in einer Suchrunde ein Fehler auf, weicht das aiStudio nicht auf klassisches RAG aus. So wird Ihre Anfrage nicht unbemerkt über ein Modell der integrierten Anbieter beantwortet. Die Frage bleibt in diesem Fall unbeantwortet.

# Kosten und Effizienz

Die Agentische Suche verursacht pro Anfrage etwa 3× höhere Kosten als klassisches RAG. Dieser Mehraufwand entsteht, weil die Konversation jede Runde vollständig neu gesendet wird und kumulativ auf ca. 25.000 Input-Token anwächst (bei ca. 1.500 Output-Token über 3–4 Suchrunden plus Eignungsprüfung).

Die Suchschleife läuft bewusst auf einem kostengünstigen Modell (GLM-4.7-Flash). Ein anderes Modell legen Sie bei Bedarf unter Aufgaben-Modelle fest; die folgenden Angaben beziehen sich auf die Voreinstellung. Nur die eigentliche Antwortgenerierung erfolgt auf dem konfigurierten Bot-Modell. Dadurch bleibt der Kostenfaktor bei etwa 3× gegenüber Standard-RAG – würde die Schleife auf einem leistungsstarken Modell wie GPT-4.1 laufen, läge der Faktor beim Vierzigfachen.

Bei der Antwortgenerierung selbst sendet die Agentische Suche nur die tatsächlich benötigten Passagen an das Antwortmodell. Standard-RAG übergibt dagegen stets mindestens 10 Chunks (bzw. die Chunk-Anzahl, die Sie ausgewählt haben) – auch wenn ein Großteil davon nicht zur Anfrage passt. Dadurch sind die Input-Token für die Generierung bei RAG 4–5× größer als bei der Agentischen Suche. Mit zunehmend leistungsstärkeren (und teureren) Antwortmodellen verschiebt sich das Kostenverhältnis daher weiter zugunsten der Agentischen Suche.

Die Antwortqualität ist bei der Agentischen Suche generell höher, da dem Antwortmodell weniger irrelevante Inhalte übergeben werden – auch bei schwächeren Chat-Completion-Modellen.