Zum Inhalt springen

Dateien und Wissen

Diese Seite trennt drei Dinge, die im Alltag ständig verwechselt werden: eine Datei an eine Nachricht anhängen, einen ganzen Dokumentenbestand durchsuchbar machen und die eigenen Unterhaltungen durchsuchen. Zwei davon sind nach der Installation da, eines nicht.

Was Sie wollen Wie es heisst Auslieferungszustand
Diese eine Datei soll der Kollege jetzt lesen Datei anhängen (Kontext) an
Ein Bestand aus vielen Dokumenten soll dauerhaft durchsuchbar sein Dateisuche, auch RAG genannt, kurz für Retrieval-Augmented Generation, also Antworten aus nachgeschlagenen Textstellen aus, wird vom Admin eingerichtet
Ich suche eine Stelle in meinen alten Chats Volltextsuche über Unterhaltungen an

Die Dateiverarbeitung stammt von LibreChat, ebenso die RAG-Schnittstelle dahinter.

Das ist der Normalfall. Sie hängen ein Dokument an Ihre Nachricht, der Inhalt wandert in den Kontext dieser Unterhaltung, und Sie stellen Ihre Frage dazu. Anhängen geht über das Menü im Eingabefeld oder per Ziehen auf das Chat-Fenster.

Sinnvoll ist das für einzelne Dokumente: einen Vertrag prüfen, ein Protokoll zusammenfassen, eine Tabelle auswerten lassen. Der Inhalt bleibt in dieser Unterhaltung und wird nicht zu einem durchsuchbaren Bestand.

Verarbeitet werden die üblichen Büro- und Textformate, unter anderem PDF, Word (.docx), Excel (.xlsx), PowerPoint (.pptx), Text, Markdown, CSV, JSON und XML. Bilder in den Formaten JPEG, PNG, GIF und HEIC gehen ebenfalls, allerdings nur auf einer Modellkarte, die Bilder versteht. Auf der reinen Text-Karte bleibt ein Bild wirkungslos, siehe Chat und Modelle.

Die genaue Liste der erlaubten Dateitypen ist konfigurierbar. Wo, steht weiter unten im Abschnitt für Admins.

Wie viele Dateien Sie pro Nachricht anhängen dürfen und wie gross eine Datei sein darf, legt der Admin fest. Die Voreinstellung ist grosszügig und selten die eigentliche Grenze. Praktisch wichtiger ist, wie viel Text ein Modell in einer Anfrage lesen kann. Ein Dokument mit mehreren hundert Seiten füllt den Kontext, verdrängt den Rest des Gesprächs und macht die Antwort schlechter. Für solche Bestände ist die Dateisuche da.

Die Dateisuche ist etwas anderes als das Anhängen. Hochgeladene Dokumente werden in Abschnitte zerlegt und so abgelegt, dass nicht nach Stichwörtern, sondern nach inhaltlicher Ähnlichkeit gesucht wird. Auf eine Frage hin holt der Kollege dann gezielt die passenden Abschnitte heraus, statt das ganze Dokument in den Kontext zu legen.

Der Vorteil zeigt sich bei vielen und langen Dokumenten: eine Handvoll Handbücher, eine Sammlung von Richtlinien, ein Projektarchiv. Statt „lies diese 400 Seiten“ heisst es dann „finde die drei Stellen, die meine Frage beantworten“.

Die Suche in der Seitenleiste durchsucht Ihre Unterhaltungen, nicht Ihre Dokumente. Sie findet die Stelle, an der etwas besprochen wurde. Diese Suche ist immer an, sie braucht keinen Embeddings-Anbieter.

  1. Einen Anbieter für die Embeddings hinterlegen. Ohne ihn lassen sich Dokumente nicht für die inhaltliche Suche aufbereiten. Wer die EU-Positionierung halten will, wählt einen Anbieter, der EU-resident verarbeitet.

  2. Die dafür nötigen Zusatzbausteine bereitstellen. Die Dateisuche bringt einen eigenen Dienst für das Aufbereiten und Durchsuchen der Dokumente mit; er wird nur intern angesprochen.

  3. Oberfläche freischalten. Erst danach erscheint der Schalter im Chat.

  4. Rollen-Recht prüfen. Im Rollen-Editor unter Werkzeuge steht das Recht Datei-Suche (RAG) mit dem Zusatz „Hochgeladene Dokumente durchsuchen“. Optional dazu Datei-Zitate für Quellenangaben aus Dateien. Wer die Dateisuche nur einzelnen Rollen geben will, pflegt das Recht ausschliesslich hier.

  5. Anschliessend prüfen, ob die Suche in einem frischen Chat wirklich Treffer aus dem Bestand liefert.

Im Panel unter Konfiguration → Dateien & Speicher. Dort stehen die Obergrenzen für Uploads, das Limit für Profilbilder und die Liste der erlaubten Dateitypen.

Ein sinnvoller Eingriff bei der Einrichtung ist, die Obergrenze pro Datei auf einen für Ihren Alltag realistischen Wert zu senken. Das hält versehentlich hochgeladene Videos und Archive aus dem Speicher heraus.

Beim Löschen einer Person über das Admin-Panel werden auch deren Dateien entfernt und die Suchindizes aufgeräumt. Der Dialog bietet vorher ausdrücklich Daten exportieren (JSON) an, weil die Auskunft nach DSGVO vor der Löschung erfolgen muss.