Systemanforderungen
Diese Seite sagt in groben Zügen, was eine selbst betriebene Instanz an Hardware braucht. Sie ist für diejenigen gedacht, die eine VM bestellen oder eine bestehende Maschine bewerten.
Richtwerte
Abschnitt betitelt „Richtwerte“| Richtwert | |
|---|---|
| CPU | 2 bis 4 vCPU |
| Arbeitsspeicher | 4 bis 16 GB, je nach Zahl der Nutzenden |
| Plattenplatz | einige Dutzend GB, mit Reserve für hochgeladene Dateien |
| Betriebssystem | eine verbreitete Linux-Distribution mit Langzeitunterstützung |
| CPU-Befehlssatz | AVX, zwingend (siehe unten) |
Der Plattenbedarf wächst vor allem mit den hochgeladenen Dateien; wer viel ablegt, plant von Anfang an grosszügiger. Kleine Instanzen sind ausdrücklich zulässig.
Die CPU-Last ist im Normalbetrieb gering, denn gerechnet wird beim Inferenz-Anbieter. Spitzen entstehen nur bei einzelnen Zusatzfunktionen. Mit der Nutzerzahl wächst vor allem der Arbeitsspeicherbedarf der Anwendung; für eine grössere Belegschaft lohnt sich eine eigene VM je Instanz.
AVX: die einzige harte Voraussetzung
Abschnitt betitelt „AVX: die einzige harte Voraussetzung“Alle Werte oben sind Richtwerte: eine kleinere Maschine läuft langsamer, aber sie läuft. Bei einer Sache gibt es diese Abstufung nicht. Die verwendete Datenbank setzt den CPU-Befehlssatz AVX voraus. Fehlt er, startet sie überhaupt nicht, und zwar ohne eine Meldung, die den Grund nennt.
So prüfen Sie es auf der Maschine:
grep -o -m1 avx /proc/cpuinfoKommt avx zurück, ist alles in Ordnung. Kommt nichts zurück, liegt es auf einer virtuellen
Maschine fast nie an der Hardware, sondern am CPU-Typ, den die Virtualisierung durchreicht.
Viele Hypervisoren stellen neue Maschinen auf ein generisches Modell ein, das unterhalb von AVX
liegt.
Jede gängige Server-CPU seit etwa 2011 beherrscht AVX. Meldet auch der Virtualisierungs-Wirt selbst kein AVX, ist die Hardware wirklich zu alt. Dann hilft nur eine andere Maschine.
Betriebssystem und Container-Laufzeit
Abschnitt betitelt „Betriebssystem und Container-Laufzeit“Empfohlen ist eine verbreitete Linux-Distribution mit Langzeitunterstützung. Auf anderen Distributionen läuft die Installation weiter, kann aber abweichen.
Zwingend ist eine aktuelle Container-Laufzeit mit Compose-Unterstützung. Beziehen Sie sie aus der offiziellen Paketquelle des Herstellers; die Pakete mancher Distributionen bringen nicht den nötigen Umfang mit.
Plattenplatz
Abschnitt betitelt „Plattenplatz“Die Container-Images belegen einmalig einige Gigabyte. Danach wachsen vor allem drei Dinge: die hochgeladenen Dateien, die Datenbank und die Protokolle.
Der Plattenplatz ist die erste Grenze im Betrieb, nicht der Arbeitsspeicher. Überwachen Sie die Belegung und räumen Sie nicht mehr benötigte Images regelmässig auf.