Im High Performance Computing (HPC) Umfeld werden meist parallele Filesysteme eingesetzt, um große Datenmengen gleichzeitig in den Rechnerkomplex zu „schaufeln“.
Zwei parallele Filesysteme (PFS) teilen sich etwa 90% des Marktes:
Während das Open Source Filesystem Lustre speziell für den HPC Einsatz geschrieben wurde hat sich das kommerzielle Filesystem IBM Spectrum Scale (vormals IBM GPFS) aus dem Einsatz in Unternehmen entwickelt. Dementsprechend haben beide Filesysteme unterschiedliche Stärken, Schwächen und Einsatzbereiche:
Während Lustre durch herausragende Performance (in Terabytes pro Sekunde) bei extrem hoher Skalierbarkeit (bis über Tausend Petabytes Kapazität) besticht, glänzt IBM Spectrum Scale durch seine umfangreichen „Enterprise Features“.
Durch die kürzliche Änderung des Lizenzmodelles von IBM Spectrum Scale (ab Version 5) Server und Client Lizenzen hin zur kapazitätsorientierten Lizensierung („per disk“ oder „per Terabyte“) verteuert sich das IBM File System deutlich für Anwender, die hohe Speicherkapazitäten haben. Viele Spectrum Scale Anwender prüfen nun, ob sie auf einige der Enterprise Features von IBM Spectrum Scale verzichten können, um die Vorteile des Open Source HPC Filesystems Lustre zu nutzen und diese Kostenerhöhung zu vermeiden.
Die Vorteile des Open Source Filesystems Lustre:
Glücklicherweise gestaltet sich der Wechsel von der kommerziellen Software IBM Spectrum Scale zu Open Source Lustre relativ einfach, da beide File Systeme POSIX-kompatibel sind.
Wer nutzt bereits Lustre?
Führende HPC Anwender wie z. B. das Europäische Zentrum für globale numerische mittelfristige Wettervorhersage (ECMWF), das Deutsche Klimarechenzentrum (DKRZ) oder der italienische Energiekonzern ENI haben die Migration von IBM Spectrum Scale zu Open Source Lustre bereits erfolgreich durchgeführt.