Optische StarryLink-Module

Mit der schnellen Weiterentwicklung von KI sind für KI-Training-Clusters oft mehr als 10.000 GPUs erforderlich, was zu einer erheblich höheren Anzahl an erforderlichen optischen Modulen führt. Der 1000 GPU Cluster, der für das Training von GPT-3 erforderlich ist, erfordert beispielsweise Verbindungen mit optischen 2.500 200G oder 4.000 400G-Modulen. Um GPT-4 zu trainieren, benötigt ein 10.000 GPU Cluster Verbindungen mit 25.000 200G- oder 40.000 400G-Modulen. Jedes Mal, wenn eine GPU hinzugefügt wird, steigt die Anzahl der optischen Module um das 2,5- bis 4-fache. Eine effiziente Netzwerkverbindung ist entscheidend für die Verbesserung der Rechenleistung des System-Clusters.

Während des eigentlichen Trainings-Prozesses wurde beobachtet, dass die Ausfallrate der optischen Module höher als erwartet ist, was die Netzwerk-Zuverlässigkeit beeinträchtigt. Die jährliche Ausfallrate der optischen Module beträgt 4 ‰, was zu einer durchschnittlichen Unterbrechung des Trainings alle 3,6 Tage für einen 10.000 GPU-Cluster führen kann. Die durchschnittliche Fehlerbehebungszeit beträgt 2 Stunden, was zu einer täglichen Verschwendung von 1,4 Millionen CNY an Investitionen in Rechenleistung führt.

Das optische StarryLink-Modul bietet extrem zuverlässige und sichere Netzwerkverbindungen über lange Distanzen. Die optische Rückflussdämpfungs-Positionierungstechnologie für kurze Distanzen ermöglicht eine präzise und effiziente Identifizierung verunreinigter oder loser optischer Module und ermöglicht so eine genaue und schnelle Fehlerlokalisierung. Darüber hinaus erhöht die Kanalverlust-Widerstandstechnologie des optischen Moduls die Zuverlässigkeit optischer Module um den Faktor zehn.