Search
  • OceanStor A800

    High-Performance Distributed Storage für KI

Übersicht

  • Übersicht
  • Funktionen
  • Technische Daten
  • Resources

OceanStor A800

OceanStor A800 ist die High-Performance-Dateispeicherung der neuen Generation, die alle Anforderungen für KI-Training und Inferenz erfüllt - Distributed Storage speziell für KI!.

Mit 24 Millionen IOPS (Input/Output Operations per Second) und 500 Gb/s Bandbreite pro Controller-Gehäuse verarbeitet OceanStor A800 die Anforderungen beim Laden von Trainingssets mit extrem vielen kleinen Dateien und bietet die hohe Bandbreite, die für die Wiederaufnahme von Checkpoints erforderlich ist. Verglichen mit alternativen Systemen bietet dieser OceanStor tatsächlich ein acht mal schnelleres Laden von Trainingssets und eine vier mal schnellere Trainingswiederaufnahme von Checkpoints.

Das intrinsische Vektor-Knowledge-Repository reduziert KI-Halluzinationen und stellt eine Inferenzreaktion innerhalb von Millisekunden sicher. Langfristige Speicherfähigkeiten eliminieren wiederholte Berechnungen und mindern so den Druck auf die Inferenz-Rechenleistung. Dies reduziert die TTFT (Time To First Token) um 78 %; der Inferenzdurchsatz jedes einzelnen xPU wird um 60 % erhöht.

Extreme Leistung

Extreme Leistung

• Software-Hardware-Kollaboration: Basierend auf der innovativen „Data Control Plane Separation“-Architektur, der Backplane-freien orthogonalen Architektur und der DataTurbo-Dateibeschleunigungs-Engine erreicht das Produkt 24 Millionen IOPS und 500 Gb/s Bandbreite pro Controller-Gehäuse - eine acht mal höhere Leistung als die führende alternative Lösung.
• Bei den 2024 MLPERF™ AI Benchmarks rangiert OceanStor A800 an erster Stelle in Gesamtleistung, Leistung pro Knoten und Leistung pro Rack-Einheit.

Extrem großer Cluster

Extrem großer Cluster

• Eine Scale-Out-Fähigkeit auf Exabyte-Level wird unterstützt, mit einer flexiblen Erweiterung auf 512 Controller.
• Near-Storage Computing und verschiedene Scale-Up-Fähigkeiten ermöglichen ein Hinzufügen von verschiedenen Funktionskarten je nach Anforderungen.
• OceanStor A800 bietet 100 Millionen-Level IOPS und Hunderte von TB/s-Bandbreiten und unterstützt ein Cluster mit 100,000 xPUs. (Unterstützt die vollständige Verbindung innerhalb eines 100,000-xPU Clusters.)

Leistungsstarke Inferenz

Leistungsstarke Inferenz

• Langfristige Speicherung mit Multi-Level Key-Value (KV) Cache verbessert den Durchsatz jedes einzelnen xPU um 67 %.
• Ein Knowledge-Repository, das Milliarden an tausenddimensionalen Vektoren enthält, ermöglicht einen Abruf in Millisekunden während Inferenz- und Echtzeit-Knowledge-Updates.

Technische Daten

Modell OceanStor A800
Gehäuse Formfaktor Dedizierte Hardware, 8HE/2 Knoten
CPUs pro Knoten 4 CPUs
Knotenerweiterung Erweiterbar auf 512 Knoten im voll symmetrischen Modus
Max. Anzahl der SSDs pro Gehäuse 64 SSDs (Controller-Gehäuse mit integrierten SSDs)
Lüfter pro Knoten 10
Speicher pro Knoten 1.024 GB
Netzwerk-Typen 25/100/200 Gbit/s ETH, 200 Gbit/s IB

TOP