Italia

Presentazione dei prodotti HDR InfiniBand per AI

Inviato il 30 Dic 2023 by
85

Attualmente ChatGPT si è espansa con successo a livello globale, andando oltre il settore tecnologico. Con l'avanzamento di ChatGPT e dell'Intelligenza Artificiale (AI), la costruzione di data center a livello globale ha subito un'accelerazione, con conseguenti cambiamenti nella scala e nel modello di approvvigionamento dei moduli ottici. I data center AI adottano la struttura di rete Fat Tree, caratterizzata da un numero uguale di porte upstream e downstream per ogni nodo, con conseguente aumento del numero di switch rispetto ai data center tradizionali.

Prendendo come esempio il modello di cluster AI di NVIDIA, il SuperPOD funge da unità fondamentale e comprende 140 server GPU DGX A100, schede di rete HDR InfiniBand 200G e 170 switch NVIDIA Quantum QM8790. L'aumento del numero di switch, utilizzando un approccio di connessione 1:1, si traduce in un requisito di interconnessione delle porte di 40x170/2 = 3.400, adattato a 4.000 considerando gli scenari di implementazione pratica.

Il rapporto di utilizzo di un SuperPOD, in termini di server: switch: moduli ottici, è di circa 1:1,2:28,6. Per soddisfare i requisiti di base simili a quelli di GPT4.0 sono necessari circa 3.750 server NVIDIA DGX A100 e 110.000 moduli ottici.

Fat Tree Network Topology

FS offre prodotti per SuperPOD che utilizzano interconnessioni di rete HDR InfiniBand 200G. Questi prodotti includono trasmissione dati ad alta velocità e bassa latenza, basso consumo energetico e ottica InfiniBand ad alta stabilità. In particolare, la linea di prodotti comprende i moduli HDR 200G QSFP56 SR4 e HDR 200G QSFP56 FR4, oltre a prodotti DAC e AOC. Di seguito, forniremo un'introduzione a questi moduli HDR 200G QSFP56 e ai cavi DAC&AOC.

Transceiver QSFP56 InfiniBand HDR 200G per AI

FS offre due tipi di moduli InfiniBand 200G NVIDIA HDR, come mostrato nella tabella seguente, ciascuno con caratteristiche diverse.

Prodotto
Prezzo
Lunghezza d'onda
Connettore
Distanza massima cavo
US$359.00
850nm
MTP/MPO-12 UPC
100m
US$999.00
1271nm, 1291nm, 1311nm e 1331nm
Duplex LC
2km
 

InfiniBand HDR 200G QSFP56 Transceiver

DAC e AOC InfiniBand HDR QSFP56 200G per AI

La soluzione NVIDIA menziona anche l'applicazione dei cavi AOC e DAC, tipicamente utilizzati per la trasmissione di dati a breve distanza, ad esempio all'interno dei server o tra server e switch. Questi tipi di cavi offrono soluzioni di trasmissione ad alta larghezza di banda, bassa latenza e basso consumo energetico. Pertanto, i cavi HDR AOC e DAC possono essere utilizzati nei SuperPOD per soddisfare i requisiti di varie distanze e scenari applicativi. FS fornisce cavi HDR AOC e DAC sia a connessione diretta che in diramazione, secondo lo schema InfiniBand HDR:

Prodotto
Prezzo
Consumo energetico
US$64.00(0.5m)
≤0.1W
US$529.00(1m)
≤4.5W
 

InfiniBand HDR 200G QSFP56 DAC & AOC

Conclusioni

In sintesi, con il rapido avanzamento delle tecnologie AI e dei data center, come dimostra il modello di cluster NVIDIA AI, diventa evidente la richiesta di un numero consistente di transceiver e cavi ottici per consentire la trasmissione di dati ad alta velocità e a bassa latenza all'interno di un SuperPOD. I transceiver e i cavi ottici FS InfiniBand non solo possiedono i vantaggi intrinseci dell'alta velocità, della bassa latenza e del basso consumo energetico, ma dimostrano anche versatilità nel soddisfare distanze e scenari applicativi diversi. Guardando al futuro della costruzione dei data center, siamo certi che l'adozione diffusa di ricetrasmettitori e cavi ottici ad alta velocità, efficienti e affidabili giocherà un ruolo fondamentale, consolidando la loro importanza come componente integrale nella continua evoluzione dell'infrastruttura dei data center.

Potresti essere interessato a

Conoscenza
See profile for Sheldon.
Sheldon
Cosa è la porta SFP di uno switch Gigabit?
22 Mag 2023
82.7k
Conoscenza
Conoscenza
See profile for Migelle.
Migelle
Switch PoE, PoE+ e PoE++: Come scegliere?
16 Mar 2023
36.6k
Conoscenza
See profile for Sheldon.
Sheldon
LACP e PAGP: Qual è la differenza?
08 Mar 2023
25.0k
Conoscenza
Conoscenza
See profile for Moris.
Moris
DHCP o IP Statico: Qual è il migliore?
08 Mag 2023
54.9k
Conoscenza
See profile for Migelle.
Migelle
Switch Attivo vs Passivo: Quale Scegliere?
07 Dic 2020
20.1k
Conoscenza
See profile for Sheldon.
Sheldon
RIP vs OSPF: Qual è la differenza?
15 Nov 2022
28.3k
Conoscenza
See profile for Vincent.
Vincent
Capire il moduli BiDi
08 Mar 2021
19.9k
Conoscenza
See profile for Vincent.
Vincent
XFP vs SFP+: Quali sono le differenze?
10 Gen 2023
14.8k
Conoscenza