Zum Inhalt springen

Systemanforderungen

Diese Seite sagt in groben Zügen, was eine selbst betriebene Instanz an Hardware braucht. Sie ist für diejenigen gedacht, die eine VM bestellen oder eine bestehende Maschine bewerten.

Richtwert
CPU 2 bis 4 vCPU
Arbeitsspeicher 4 bis 16 GB, je nach Zahl der Nutzenden
Plattenplatz einige Dutzend GB, mit Reserve für hochgeladene Dateien
Betriebssystem eine verbreitete Linux-Distribution mit Langzeitunterstützung
CPU-Befehlssatz AVX, zwingend (siehe unten)

Der Plattenbedarf wächst vor allem mit den hochgeladenen Dateien; wer viel ablegt, plant von Anfang an grosszügiger. Kleine Instanzen sind ausdrücklich zulässig.

Die CPU-Last ist im Normalbetrieb gering, denn gerechnet wird beim Inferenz-Anbieter. Spitzen entstehen nur bei einzelnen Zusatzfunktionen. Mit der Nutzerzahl wächst vor allem der Arbeitsspeicherbedarf der Anwendung; für eine grössere Belegschaft lohnt sich eine eigene VM je Instanz.

Alle Werte oben sind Richtwerte: eine kleinere Maschine läuft langsamer, aber sie läuft. Bei einer Sache gibt es diese Abstufung nicht. Die verwendete Datenbank setzt den CPU-Befehlssatz AVX voraus. Fehlt er, startet sie überhaupt nicht, und zwar ohne eine Meldung, die den Grund nennt.

So prüfen Sie es auf der Maschine:

Gibt es AVX?
grep -o -m1 avx /proc/cpuinfo

Kommt avx zurück, ist alles in Ordnung. Kommt nichts zurück, liegt es auf einer virtuellen Maschine fast nie an der Hardware, sondern am CPU-Typ, den die Virtualisierung durchreicht. Viele Hypervisoren stellen neue Maschinen auf ein generisches Modell ein, das unterhalb von AVX liegt.

Jede gängige Server-CPU seit etwa 2011 beherrscht AVX. Meldet auch der Virtualisierungs-Wirt selbst kein AVX, ist die Hardware wirklich zu alt. Dann hilft nur eine andere Maschine.

Empfohlen ist eine verbreitete Linux-Distribution mit Langzeitunterstützung. Auf anderen Distributionen läuft die Installation weiter, kann aber abweichen.

Zwingend ist eine aktuelle Container-Laufzeit mit Compose-Unterstützung. Beziehen Sie sie aus der offiziellen Paketquelle des Herstellers; die Pakete mancher Distributionen bringen nicht den nötigen Umfang mit.

Die Container-Images belegen einmalig einige Gigabyte. Danach wachsen vor allem drei Dinge: die hochgeladenen Dateien, die Datenbank und die Protokolle.

Der Plattenplatz ist die erste Grenze im Betrieb, nicht der Arbeitsspeicher. Überwachen Sie die Belegung und räumen Sie nicht mehr benötigte Images regelmässig auf.