Zum Inhalt springen

Web-Suche

Die Web-Suche holt aktuelle Informationen aus dem Internet in den Chat: Preise, Nachrichten, Rechtsstand, Angaben zu fremden Firmen. Diese Seite erklärt, wie sie benutzt wird, aus welchen Bausteinen sie besteht und welche davon Sie bei der Einrichtung selbst wählen.

Das Such-Gerüst stammt von LibreChat. Von uns kommt die Vorkonfiguration.

Im Eingabefeld gibt es einen Schalter für die Web-Suche. Ist er an und ist die Suche vollständig eingerichtet, entscheidet der Kollege selbst, wann er sucht. Sie müssen nicht „such im Internet“ schreiben, eine Frage nach dem aktuellen Stand genügt.

Die Antwort wird dann auf den gefundenen Seiten aufgebaut, mit Quellenangabe. Der hinterlegte Systemprompt verlangt das ausdrücklich.

Eine funktionierende Web-Suche besteht aus mehr als einer Suchmaschine.

Baustein Aufgabe Pflicht
Suchmaschine Liefert Treffer, also Links und kurze Textausschnitte ja
Scraper Holt den Volltext der gefundenen Seiten ja
Reranker Sortiert die Fundstellen nach Passgenauigkeit nein

Ohne Scraper hätte der Kollege nur Überschriften und Zweizeiler, aus denen sich keine belastbare Antwort bauen lässt.

Beides wird im Admin-Panel unter Konfiguration → Funktionen gepflegt, in den beiden Karten zur Web-Suche. Dort wählen Sie den Such-Provider, den Scraper und optional einen Reranker, dazu die SafeSearch-Stufe. LibreChat unterstützt für Scraper und Reranker jeweils mehrere Anbieter; welche in Frage kommen, steht in der LibreChat-Dokumentation.

Schlüssel gehören nie im Klartext in die Konfiguration. Tragen Sie sie als Referenz auf eine Variable ein und hinterlegen Sie den Wert an der dafür vorgesehenen Stelle.

Zwei weitere Stellschrauben entscheiden, ob gesucht wird:

  1. Rollen-Recht. Im Rollen-Editor unter Werkzeuge das Recht Web-Suche für die betroffenen Rollen.

  2. Karten-Flag. Das Such-Werkzeug muss auf den Modellkarten aktiv sein, die Sie anbieten. Erst dann hängt es an der Karte und das Modell entscheidet selbst über den Einsatz.

  3. Anschliessend in einem frischen Chat prüfen.

Wie viel Text aus den Suchergebnissen an das Modell geht, ist begrenzt und einstellbar. Mehr bedeutet mehr Kontext für die Antwort und mehr Tokens pro Anfrage, also höhere Kosten. Weniger bedeutet eine knappere Grundlage.

Die Suche läuft in Ihrer Instanz, die Suchanfrage selbst geht aber nach draussen: Sie wird an externe Suchdienste gestellt. Was dabei passiert und was nicht:

Geht nach draussen der Suchbegriff, sowie die abgerufenen Seiten beim Scraper
Geht nicht nach draussen wer gesucht hat. Die Identität der Person bleibt bei Ihnen
Bleibt bei Ihnen die Unterhaltung, die Dokumente, die Antwort