Chat und Modelle

Diese Seite beschreibt, was Mitarbeitende im Chat vorfinden: Verlauf, Suche, Modellkarten, Erinnerungen und das Verhalten bei sehr langen Gesprächen. Am Ende steht ein Abschnitt für Administratoren mit den Schaltern dazu.

Die Chat-Oberfläche stammt von LibreChat. Von uns kommen die Kuration der Modellkarten, der hinterlegte Systemprompt und die Rechteverwaltung darüber.

Vier Begriffe vorab

Begriff	In einem Satz
Token	Die Recheneinheit der Sprachmodelle: ein Textstück von rund vier Zeichen, also grob ein halbes bis ein ganzes Wort. Alles, was Sie schreiben und was der Kollege antwortet, wird darin gezählt, und daran hängen Verbrauch, Budgets und Kontextgrenzen.
Modellkarte	Ein fertiges Paket aus Anbieter, Modell und Voreinstellungen, das Sie im Picker unter einem verständlichen Namen auswählen, statt ein rohes Modell zu benennen.
Systemprompt	Die Arbeitsanweisung, die dem Modell vor Ihrer Frage mitgegeben wird und Sprache, Ton und Verhalten festlegt. Sie hängt an der Karte und ist im Chat nicht sichtbar.
Kontext	Alles, was das Modell bei einer Anfrage gleichzeitig lesen kann: Ihre Frage, der bisherige Verlauf, angehängte Dateien und Werkzeug-Ergebnisse. Der Platz dafür ist begrenzt und wird in Tokens gemessen.

Der Alltag im Chat

Sie schreiben eine Frage, die Antwort erscheint laufend, Wort für Wort. Jede Unterhaltung landet im Verlauf der linken Spalte und bekommt automatisch einen Titel, den ein Modell aus den ersten Nachrichten ableitet. Sie können den Titel jederzeit überschreiben.

Funktion	Was sie tut
Verlauf	Alle Unterhaltungen bleiben gespeichert, bis Sie sie löschen oder die Aufbewahrungsfrist greift
Automatische Titel	Der Titel entsteht beim ersten Austausch, ohne Ihr Zutun
Lesezeichen	Wichtige Unterhaltungen markieren und schneller wiederfinden
Parallel-Antworten	Mehrere Chats nebeneinander laufen lassen und Antworten vergleichen
Privater Chat	Eine Unterhaltung, die nicht gespeichert wird
Abzweigen	Ab einer beliebigen Nachricht einen neuen Strang eröffnen, ohne das Original zu verändern
Teilen	Eine Unterhaltung als Link freigeben

Privater Chat heisst im Rollen-Editor des Admin-Panels Temporäre Chats und trägt dort den Zusatz „Unterhaltungen ohne Speicherung“. Wie lange eine solche Unterhaltung überhaupt aufbewahrt wird, legt der Admin fest.

Abzweigen ist der richtige Weg, wenn ein Gespräch in zwei Richtungen weitergehen soll. Sie behalten den bisherigen Verlauf und probieren im Abzweig eine andere Variante, ohne die ursprüngliche Unterhaltung zu verlieren.

Teilen erzeugt einen Link auf eine Momentaufnahme der Unterhaltung. Wer den Link hat, liest mit. Das Recht dazu ist ein eigenes Rollen-Recht und lässt sich entziehen.

Alte Chats durchsuchen

In der Seitenleiste gibt es eine Suche über den vollen Text aller eigenen Unterhaltungen. Die Suche findet also auch eine Formulierung mitten in einer Antwort von vor drei Wochen.

Drei Suchen, die nicht dasselbe sind

Die Volltextsuche über Ihre Chats ist etwas anderes als die Dateisuche über einen Dokumentenbestand und etwas anderes als die Web-Suche. Was wofür zuständig ist, steht in Dateien und Wissen und in Web-Suche.

Was eine Modellkarte ist

Eine Modellkarte ist ein fertig zusammengestelltes Preset. Sie bündelt drei Dinge:

1. ein bestimmtes Modell bei einem bestimmten Anbieter,
2. den hinterlegten Systemprompt, also die Arbeitsanweisung an das Modell,
3. die Vorauswahl der Werkzeuge, die auf dieser Karte scharf sind.

Der Systemprompt wird serverseitig eingefügt und gelangt nicht in den Browser. Die ausgelieferten Karten tragen denselben Prompt; er legt Sprache, Ton und den sorgfältigen Umgang mit Fakten fest.

Neue Chats starten auf der Standardkarte. Sie dürfen die Karte wechseln, der Wechsel ist nicht gesperrt.

Welche Karten Sie vorfinden

Welche Karten im Picker stehen, entscheidet der Admin. Zwei Unterscheidungen sind im Alltag wichtig:

• Text oder Text und Bilder. Nicht jede Karte versteht Bilder. Screenshots und Fotos gehören auf eine Karte, die als bildfähig gekennzeichnet ist; auf einer reinen Text-Karte bleibt ein Bild wirkungslos.
• EU oder nicht EU. Karten, deren Anfragen die EU verlassen, tragen die Kennzeichnung ⚠ Nicht-EU im Namen.

Die Kennzeichnung ist Absicht

Das Zeichen ⚠ und der Zusatz „Nicht-EU“ stehen im Kartennamen, damit im Moment der Auswahl sichtbar ist, dass diese Anfrage die EU verlässt. Die Kennzeichnung darf nicht entfernt werden, solange die Karte auf einen Anbieter ausserhalb der EU zeigt. Wer eine rein europäische Instanz will, bietet solche Karten gar nicht erst an.

Erinnerungen: das Langzeitgedächtnis

Der KI-Kollege merkt sich über Unterhaltungen hinweg einige Dinge über Sie und zieht sie in jede neue Antwort ein. Das passiert von selbst, Sie müssen nicht „merk dir das“ sagen.

Gespeichert wird bewusst wenig und nur in vier Kategorien:

Kategorie	Inhalt
Präferenzen	Wie Sie Antworten wollen: Sprache, Format, Detailgrad, Ton, wiederkehrende Korrekturen
Arbeitskontext	Rolle, Team, Zuständigkeiten, verwendete Systeme
Projekte	Laufende Projekte, Kunden und Themen mit Kurzstand
Notizen	Sonstige stabile Fakten, die künftige Antworten besser machen

Ausdrücklich nicht gespeichert werden Passwörter und Schlüssel, Gesundheits-, Religions- und politische Angaben, Lohndaten, sensible Fakten über Dritte und einmalige Details ohne Wiederverwendungswert.

Der Speicher ist absichtlich klein gehalten. Läuft er voll, fasst der Kollege verwandte Einträge zusammen, statt beliebig weiter anzuhängen.

So schalten Sie es ab. In den Einstellungen unter Datenschutz & Sicherheit, Abschnitt Erinnerungen, steht der Schalter Gespeicherte Erinnerungen verwenden. Aus bedeutet: Ihre Erinnerungen fliessen nicht mehr in die Antworten ein. Im selben Bereich können Sie Ihre Einträge ansehen, einzeln bearbeiten und löschen.

Sehr lange Gespräche

Ein Modell kann pro Anfrage nur eine begrenzte Menge Text lesen. Wird eine Unterhaltung sehr lang, fasst ein separater Lauf die älteren Nachrichten automatisch zusammen und schickt künftig diese Zusammenfassung statt des vollen Verlaufs an das Modell.

• Der Punkt, an dem das greift, hängt von der gewählten Karte ab: Karten mit kleinerem Kontextfenster kompaktieren früher.

Ihr sichtbarer Verlauf bleibt dabei vollständig. Zusammengefasst wird nur, was an das Modell geht.

Es gibt kein manuelles Kommando dafür

Ein Befehl wie /compact, mit dem Sie das Kompaktieren selbst auslösen, existiert nicht. Der Vorgang läuft ausschliesslich automatisch. Wollen Sie bewusst frisch starten, eröffnen Sie einen neuen Chat oder zweigen Sie an der passenden Stelle ab.

Für Admins

Modellkarten pro Rolle und Gruppe

Welche Karten eine Person sieht, entscheidet das Admin-Panel. Die Kaskade lautet Gruppe vor Rolle vor Basis.

• Verwaltung → Rollen: pro Rolle ein Schalter je Karte. Dazu der Schalter Weitere Modelle (Roh-Untermenü) mit dem Zusatz „Aus = diese Rolle sieht NUR die oben aktivierten Karten“.
• Verwaltung → Gruppen: pro Gruppe entweder Erben oder Eigene Auswahl (übersteuert die Rollen-Regel).

Das ist der saubere Weg, um etwa der Geschäftsleitung zusätzliche Karten freizugeben und allen anderen nur die EU-Karten zu zeigen.

Modell-Picker ganz ausblenden

Für ein bewusst einfaches Setup setzen Sie im Panel unter Konfiguration → Funktionen die Modell-Auswahl anzeigen auf aus. Dann arbeiten alle auf der Standardkarte und sehen gar keine Modellauswahl mehr.

Parameter-Panel

Das Panel für Temperatur und ähnliche Feineinstellungen ist im Auslieferungszustand aus. Das ist bewusst so: Mitarbeitende ohne KI-Hintergrund verstellen sonst Werte, deren Wirkung sie nicht abschätzen können. Wieder einschalten geht pro Rolle über die Konfigurations-Kaskade im Panel; in der Praxis bekommt die Rolle ADMIN diesen Override, alle anderen Rollen erben das ausgeschaltete Verhalten.

Sinnvolle Reihenfolge beim Einrichten

1. Preise und Kontextgrössen pflegen unter Konfiguration → Preise, damit die Verbrauchsmessung stimmt. Ein leeres Preisfeld heisst nicht gratis, LibreChat rechnet dann mit einer eingebauten Pauschale.

2. Karten pro Rolle und Gruppe festlegen.

3. Erst danach Mitarbeitende einladen.