Web-Suche
Die Web-Suche holt aktuelle Informationen aus dem Internet in den Chat: Preise, Nachrichten, Rechtsstand, Angaben zu fremden Firmen. Diese Seite erklärt, wie sie benutzt wird, aus welchen Bausteinen sie besteht und welche davon Sie bei der Einrichtung selbst wählen.
Das Such-Gerüst stammt von LibreChat. Von uns kommt die Vorkonfiguration.
So wird sie im Chat benutzt
Abschnitt betitelt „So wird sie im Chat benutzt“Im Eingabefeld gibt es einen Schalter für die Web-Suche. Ist er an und ist die Suche vollständig eingerichtet, entscheidet der Kollege selbst, wann er sucht. Sie müssen nicht „such im Internet“ schreiben, eine Frage nach dem aktuellen Stand genügt.
Die Antwort wird dann auf den gefundenen Seiten aufgebaut, mit Quellenangabe. Der hinterlegte Systemprompt verlangt das ausdrücklich.
Die drei Bausteine
Abschnitt betitelt „Die drei Bausteine“Eine funktionierende Web-Suche besteht aus mehr als einer Suchmaschine.
| Baustein | Aufgabe | Pflicht |
|---|---|---|
| Suchmaschine | Liefert Treffer, also Links und kurze Textausschnitte | ja |
| Scraper | Holt den Volltext der gefundenen Seiten | ja |
| Reranker | Sortiert die Fundstellen nach Passgenauigkeit | nein |
Ohne Scraper hätte der Kollege nur Überschriften und Zweizeiler, aus denen sich keine belastbare Antwort bauen lässt.
Für Admins: Scraper und Reranker konfigurieren
Abschnitt betitelt „Für Admins: Scraper und Reranker konfigurieren“Beides wird im Admin-Panel unter Konfiguration → Funktionen gepflegt, in den beiden Karten zur Web-Suche. Dort wählen Sie den Such-Provider, den Scraper und optional einen Reranker, dazu die SafeSearch-Stufe. LibreChat unterstützt für Scraper und Reranker jeweils mehrere Anbieter; welche in Frage kommen, steht in der LibreChat-Dokumentation.
Schlüssel gehören nie im Klartext in die Konfiguration. Tragen Sie sie als Referenz auf eine Variable ein und hinterlegen Sie den Wert an der dafür vorgesehenen Stelle.
Damit der Kollege von selbst sucht
Abschnitt betitelt „Damit der Kollege von selbst sucht“Zwei weitere Stellschrauben entscheiden, ob gesucht wird:
-
Rollen-Recht. Im Rollen-Editor unter Werkzeuge das Recht Web-Suche für die betroffenen Rollen.
-
Karten-Flag. Das Such-Werkzeug muss auf den Modellkarten aktiv sein, die Sie anbieten. Erst dann hängt es an der Karte und das Modell entscheidet selbst über den Einsatz.
-
Anschliessend in einem frischen Chat prüfen.
Wie viel Text beim Modell ankommt
Abschnitt betitelt „Wie viel Text beim Modell ankommt“Wie viel Text aus den Suchergebnissen an das Modell geht, ist begrenzt und einstellbar. Mehr bedeutet mehr Kontext für die Antwort und mehr Tokens pro Anfrage, also höhere Kosten. Weniger bedeutet eine knappere Grundlage.
Datenschutz der Web-Suche
Abschnitt betitelt „Datenschutz der Web-Suche“Die Suche läuft in Ihrer Instanz, die Suchanfrage selbst geht aber nach draussen: Sie wird an externe Suchdienste gestellt. Was dabei passiert und was nicht:
| Geht nach draussen | der Suchbegriff, sowie die abgerufenen Seiten beim Scraper |
| Geht nicht nach draussen | wer gesucht hat. Die Identität der Person bleibt bei Ihnen |
| Bleibt bei Ihnen | die Unterhaltung, die Dokumente, die Antwort |