/ EUR
Wenn du dich fragst, ob du in einen KI-Server SSD oder NVMe einbauen sollst – die Antwort lautet: Es hängt davon ab, was du wirklich auf dem Laufwerk machst. Nicht vom GPU-Modell, nicht vom Serverpreis, sondern davon, ob deine Workloads den Storage tatsächlich „erdrücken“. Denn in vielen KI-Projekten ist das Laufwerk Hintergrund. Und in anderen wird es zum Bottleneck, der die Leistung der gesamten Umgebung tötet.
Und hier tritt ein Fehler auf, der sich sehr oft wiederholt: der Kauf von NVMe „weil KI“, statt zu prüfen, ob du seine Möglichkeiten überhaupt nutzen wirst.
Wann reicht ein RAID auf SSD in einem KI-Server wirklich – und wo ergibt es keinen Sinn, für NVMe zu viel zu zahlen?
In den meisten KI-Projekten erledigt eine SSD das Thema problemlos – und das ist eine Tatsache, die viele überrascht. Wenn du Inferenz, Modelltests machst, mit kleineren Batches arbeitest oder schlicht nicht pausenlos Daten durchmahlst, bietet ein RAID 10 auf SATA/SAS-SSD mehr als ausreichende Leistung.
Konkret: Eine Konfiguration vom Typ 4× SSD 1 TB im RAID 10 bietet:
- 100–200k IOPS,
- etwa 800–1000 MB/s Durchsatz.
und das reicht für:
- lokale LLM-Modelle,
- Inferenz-APIs,
- Testumgebungen,
- und sogar einen Teil der produktiven Workloads.
Wichtig – SSDs sind um ein Mehrfaches günstiger als NVMe und bieten dennoch eine 10–20× bessere Leistung als alte HDDs.
Und jetzt das Entscheidende: Wenn dein Projekt keine enorme Anzahl an Laufwerksoperationen erzeugt, beschleunigt NVMe es nicht spürbar. GPU und RAM sind dann wichtiger.
Hier verbrennen viele Budget. Der Storage sieht „stark“ aus, langweilt sich aber real.
In welchen Szenarien hört NVMe auf, eine Option zu sein, und wird zur Notwendigkeit?
Es gibt Situationen, in denen SSD nicht mehr ausreicht – und das sieht man sofort. Wenn du beginnst, größere Modelle zu trainieren oder mit großen Datasets zu arbeiten, hört der Storage plötzlich auf, ein Zusatz zu sein, und wird zum Schlüsselelement der Pipeline.
Typische Fälle:
- LLM-Training (7B–13B und höher) – ständiges Lesen von Hunderten GB an Daten,
- OLTP-Datenbanken und Echtzeit-Analytik – eine enorme Anzahl kleiner Operationen,
- Rendering, VDI, große Nutzerumgebungen.
In solchen Szenarien macht NVMe den Unterschied:
- 4–8× höherer Durchsatz,
- 5–10× mehr IOPS,
- deutlich niedrigere Latenzen (im Bereich von Mikrosekunden).
Eine Konfiguration vom Typ:
- 4× NVMe PCIe 4.0 im RAID 10
bietet:
- 500k+ IOPS,
- 5 GB/s und mehr,
was erforderlich ist, damit die GPU nicht auf Daten wartet.
Und hier kommen wir zum Kern: Wenn die GPU auf das Laufwerk wartet – verlierst du Geld. Denn du hast teure Hardware, die nicht genutzt wird.
Wie viele IOPS und wie viel Durchsatz braucht dein KI-Projekt tatsächlich – und wie prüft man das?
Die einfachste Regel: Wenn du nicht weißt, wie viele IOPS du hast – brauchst du höchstwahrscheinlich kein NVMe. Klingt brutal, aber in vielen Fällen ist es genau so.
Die Grenzen sind recht klar:
- bis ~200k IOPS und <1 GB/s → SSD reicht,
- über 200k IOPS und >2 GB/s → NVMe beginnt Sinn zu ergeben.
Nur sind Zahlen das eine und die Realität das andere. Besser auf die Symptome schauen:
- das Modell lädt lange, trotz schneller GPU,
- das Batch-Processing „stockt“ beim Lesen der Daten,
- die Datenbank hat Verzögerungen bei hohem Verkehr.
Das sind die Momente, in denen der Storage zu begrenzen beginnt.
Es lohnt sich auch zu bedenken, dass nicht jeder Workload gleich ist:
- Inferenz → wenig IOPS, besser vorhersehbar,
- Training → viele IOPS, zufälliger Datenzugriff,
- Backup → fast keine Leistungsanforderungen.
Also gibt es keine einzige „richtige“ Wahl. Es gibt nur die Anpassung an den konkreten Fall.
Lohnt es sich, SSD und NVMe in einem Server zu kombinieren – wie sieht eine sinnvolle Mischkonfiguration aus?
Ja – und das ist in vielen KI-Umgebungen die vernünftigste Herangehensweise. Statt eines von beiden zu wählen, teilst du die Rollen auf.
Ein typischer Aufbau, der gut funktioniert:
- NVMe (RAID 10) → Trainingsdaten, Modelle, aktive Workloads,
- SSD (RAID 10 oder RAID 5/6) → System, Backup, Archiv.
Dadurch:
- hast du Leistung dort, wo sie gebraucht wird,
- zahlst du nicht zu viel für Storage, der nicht schnell sein muss,
- skalierst du die Umgebung leichter.
Diese Herangehensweise sieht man gut in Servern vom Typ:
- Dell R740 / R750xa,
- HPE DL380 Gen10 / Gen11,
wo du verschiedene Laufwerkstypen mischen und kontrollieren kannst, was wohin gelangt.
Und das ist der Moment, in dem der Storage aufhört, „eine einzige Wahl“ zu sein, und Teil der Architektur wird.
FAQ
Ist NVMe immer besser als SSD?
Ja – wenn du auf die Leistung schaust. Aber es ergibt nicht immer wirtschaftlich Sinn, wenn der Workload es nicht nutzt.
Reicht SSD für KI?
In vielen Fällen ja – besonders für Inferenz, Tests und kleinere Modelle.
Wann ist NVMe notwendig?
Beim Training von Modellen, großen Datenbanken und Workloads mit hohem IOPS.
RAID 10 oder RAID 5/6 bei SSD und NVMe?
RAID 10 bietet eine bessere Leistung und wird bei KI bevorzugt. RAID 5/6 eher für Kapazität und Backup.
Ergibt das Mischen von SSD und NVMe Sinn?
Ja – das ist meist der beste Kompromiss zwischen Kosten und Leistung.
Beschleunigt NVMe jedes KI-Projekt?
Nein. Wenn der Bottleneck in der GPU oder im RAM liegt, bemerkst du vielleicht keinen Unterschied.
Welches Setup zum Start?
Wenn du unsicher bist – RAID 10 auf SSD als Basis und gegebenenfalls ein Ausbau um NVMe für konkrete Workloads.
