Dateien und Wissen
Diese Seite trennt drei Dinge, die im Alltag ständig verwechselt werden: eine Datei an eine Nachricht anhängen, einen ganzen Dokumentenbestand durchsuchbar machen und die eigenen Unterhaltungen durchsuchen. Zwei davon sind nach der Installation da, eines nicht.
Drei Dinge, ein Wort
Abschnitt betitelt „Drei Dinge, ein Wort“| Was Sie wollen | Wie es heisst | Auslieferungszustand |
|---|---|---|
| Diese eine Datei soll der Kollege jetzt lesen | Datei anhängen (Kontext) | an |
| Ein Bestand aus vielen Dokumenten soll dauerhaft durchsuchbar sein | Dateisuche, auch RAG genannt, kurz für Retrieval-Augmented Generation, also Antworten aus nachgeschlagenen Textstellen | aus, wird vom Admin eingerichtet |
| Ich suche eine Stelle in meinen alten Chats | Volltextsuche über Unterhaltungen | an |
Die Dateiverarbeitung stammt von LibreChat, ebenso die RAG-Schnittstelle dahinter.
Datei an eine Nachricht anhängen
Abschnitt betitelt „Datei an eine Nachricht anhängen“Das ist der Normalfall. Sie hängen ein Dokument an Ihre Nachricht, der Inhalt wandert in den Kontext dieser Unterhaltung, und Sie stellen Ihre Frage dazu. Anhängen geht über das Menü im Eingabefeld oder per Ziehen auf das Chat-Fenster.
Sinnvoll ist das für einzelne Dokumente: einen Vertrag prüfen, ein Protokoll zusammenfassen, eine Tabelle auswerten lassen. Der Inhalt bleibt in dieser Unterhaltung und wird nicht zu einem durchsuchbaren Bestand.
Formate
Abschnitt betitelt „Formate“Verarbeitet werden die üblichen Büro- und Textformate, unter anderem PDF, Word (.docx),
Excel (.xlsx), PowerPoint (.pptx), Text, Markdown, CSV, JSON und XML. Bilder in den
Formaten JPEG, PNG, GIF und HEIC gehen ebenfalls, allerdings nur auf einer Modellkarte, die
Bilder versteht. Auf der reinen Text-Karte bleibt ein Bild wirkungslos, siehe
Chat und Modelle.
Die genaue Liste der erlaubten Dateitypen ist konfigurierbar. Wo, steht weiter unten im Abschnitt für Admins.
Grenzen
Abschnitt betitelt „Grenzen“Wie viele Dateien Sie pro Nachricht anhängen dürfen und wie gross eine Datei sein darf, legt der Admin fest. Die Voreinstellung ist grosszügig und selten die eigentliche Grenze. Praktisch wichtiger ist, wie viel Text ein Modell in einer Anfrage lesen kann. Ein Dokument mit mehreren hundert Seiten füllt den Kontext, verdrängt den Rest des Gesprächs und macht die Antwort schlechter. Für solche Bestände ist die Dateisuche da.
Dateisuche über einen Dokumentenbestand
Abschnitt betitelt „Dateisuche über einen Dokumentenbestand“Die Dateisuche ist etwas anderes als das Anhängen. Hochgeladene Dokumente werden in Abschnitte zerlegt und so abgelegt, dass nicht nach Stichwörtern, sondern nach inhaltlicher Ähnlichkeit gesucht wird. Auf eine Frage hin holt der Kollege dann gezielt die passenden Abschnitte heraus, statt das ganze Dokument in den Kontext zu legen.
Der Vorteil zeigt sich bei vielen und langen Dokumenten: eine Handvoll Handbücher, eine Sammlung von Richtlinien, ein Projektarchiv. Statt „lies diese 400 Seiten“ heisst es dann „finde die drei Stellen, die meine Frage beantworten“.
Volltextsuche über eigene Chats
Abschnitt betitelt „Volltextsuche über eigene Chats“Die Suche in der Seitenleiste durchsucht Ihre Unterhaltungen, nicht Ihre Dokumente. Sie findet die Stelle, an der etwas besprochen wurde. Diese Suche ist immer an, sie braucht keinen Embeddings-Anbieter.
Für Admins
Abschnitt betitelt „Für Admins“Dateisuche einschalten
Abschnitt betitelt „Dateisuche einschalten“-
Einen Anbieter für die Embeddings hinterlegen. Ohne ihn lassen sich Dokumente nicht für die inhaltliche Suche aufbereiten. Wer die EU-Positionierung halten will, wählt einen Anbieter, der EU-resident verarbeitet.
-
Die dafür nötigen Zusatzbausteine bereitstellen. Die Dateisuche bringt einen eigenen Dienst für das Aufbereiten und Durchsuchen der Dokumente mit; er wird nur intern angesprochen.
-
Oberfläche freischalten. Erst danach erscheint der Schalter im Chat.
-
Rollen-Recht prüfen. Im Rollen-Editor unter Werkzeuge steht das Recht Datei-Suche (RAG) mit dem Zusatz „Hochgeladene Dokumente durchsuchen“. Optional dazu Datei-Zitate für Quellenangaben aus Dateien. Wer die Dateisuche nur einzelnen Rollen geben will, pflegt das Recht ausschliesslich hier.
-
Anschliessend prüfen, ob die Suche in einem frischen Chat wirklich Treffer aus dem Bestand liefert.
Limits und erlaubte Dateitypen ändern
Abschnitt betitelt „Limits und erlaubte Dateitypen ändern“Im Panel unter Konfiguration → Dateien & Speicher. Dort stehen die Obergrenzen für Uploads, das Limit für Profilbilder und die Liste der erlaubten Dateitypen.
Ein sinnvoller Eingriff bei der Einrichtung ist, die Obergrenze pro Datei auf einen für Ihren Alltag realistischen Wert zu senken. Das hält versehentlich hochgeladene Videos und Archive aus dem Speicher heraus.
Was beim Löschen eines Kontos passiert
Abschnitt betitelt „Was beim Löschen eines Kontos passiert“Beim Löschen einer Person über das Admin-Panel werden auch deren Dateien entfernt und die Suchindizes aufgeräumt. Der Dialog bietet vorher ausdrücklich Daten exportieren (JSON) an, weil die Auskunft nach DSGVO vor der Löschung erfolgen muss.