Consejos para elegir productos InfiniBand para informática HPC

Durante Computex 2023, NVIDIA presentó una amplia gama de productos de vanguardia, que abarcan chips avanzados, arquitecturas de supercomputación y conmutadores sofisticados. De particular interés es la formidable supercomputadora, NVIDIA Helios. Diseñado para aprovechar las redes Quantum-2 InfiniBand, interconectará intrincadamente cuatro sistemas DGX GH200, mejorando significativamente la eficiencia del entrenamiento de modelos a gran escala.

Abundan los indicadores que sugieren un cambio decisivo en los centros de datos hacia la computación acelerada, un impulso impulsado por AIGC. En respuesta a las crecientes demandas de la computación de alto rendimiento (HPC) y la infraestructura expansiva, existe una necesidad palpable de una interconectividad acelerada y soluciones de red más inteligentes. En este panorama, los productos InfiniBand se han convertido en el punto focal de atención de la industria, abordando meticulosamente estos requisitos imperativos.

Conceptos básicos de InfiniBand

InfiniBand es una tecnología de interconexión de alta velocidad y baja latencia que se utiliza principalmente en centros de datos y entornos de computación de alto rendimiento (HPC). Proporciona una estructura de alto rendimiento para conectar servidores, dispositivos de almacenamiento y otros recursos de red dentro de un clúster o centro de datos. El surgimiento de la tecnología InfiniBand está estrechamente relacionado con la importante latencia de la red y la sobrecarga adicional del sistema operativo asociada con los protocolos TCP/IP tradicionales.

El protocolo TCP tradicional es un protocolo de transmisión ampliamente adoptado y encuentra su aplicación en una variedad de dispositivos que van desde electrodomésticos cotidianos como refrigeradores hasta supercomputadoras sofisticadas. Sin embargo, su adopción tiene un costo sustancial: TCP es complejo, se caracteriza por una base de código extensa y numerosas excepciones, y resulta difícil de desinstalar.

Por el contrario, IB emplea un mecanismo de control de flujo basado en la confianza, que garantiza la integridad de la conexión y minimiza la pérdida de paquetes de datos. Bajo IB, la transmisión de datos ocurre sólo cuando el buffer de recepción tiene suficiente espacio. Una vez completada la transmisión de datos, la parte receptora señala la disponibilidad de espacio en el buffer, eliminando el retraso de retransmisión asociado con la pérdida inicial del paquete de datos. Este enfoque aumenta significativamente la eficiencia y el rendimiento general.

InfiniBand en el mercado

La tecnología InfiniBand se desarrolla bajo la supervisión de la Asociación Comercial InfiniBand (IBTA), que es específicamente responsable de mantener y promover los estándares InfiniBand. Además, la IBTA garantiza el cumplimiento y realiza pruebas de interoperabilidad para productos comerciales InfiniBand. Entre los nueve directores principales de la Asociación Comercial InfiniBand, sólo dos empresas (Mellanox y Emulex) se dedican a InfiniBand. Emulex, debido al pobre desempeño comercial, fue adquirida por Avago en 2015. Actualmente, Mellanox domina el mercado de InfiniBand, y el número de implementaciones de clústeres que utilizan sus productos supera con creces a los de sus competidores.

Ventaja clave de InfiniBand

En general, la tecnología InfiniBand presenta las siguientes ventajas:

• Alta velocidad y escalabilidad

• Baja latencia

• Bajo consumo de energía

Más información sobre InfiniBand, consulta Conociendo InfiniBand.

InfiniBand en redes HPC

En el campo de la informática de alto rendimiento (HPC), las redes de interconexión de alta velocidad (HSI) desempeñan un papel crucial en el rendimiento y la eficiencia del sistema. Entre ellos, la tecnología InfiniBand se ha convertido en un componente clave ampliamente utilizado en HPC, gracias a su excelente rendimiento. Como una de las tecnologías HSI de más rápido crecimiento, InfiniBand ofrece un ancho de banda de hasta 200 Gbps y una latencia punto a punto de menos de 0,6 microsegundos, lo que brinda un soporte sólido para la construcción de clústeres informáticos de alto rendimiento.

Con las capacidades de red de alta velocidad de InfiniBand, los sistemas HPC pueden combinar de manera efectiva múltiples servidores, logrando una escalabilidad de rendimiento lineal. Esta tecnología desempeña un papel fundamental en el desarrollo de clusters informáticos de alto rendimiento, particularmente en la construcción de supercomputadoras. Las empresas, así como los centros de datos grandes o de gran tamaño, se benefician significativamente de su alta confiabilidad, disponibilidad, escalabilidad y rendimiento superior. Por lo tanto, la importancia de la tecnología InfiniBand en el dominio HPC no solo se refleja en la mejora del rendimiento de los clústeres informáticos, sino también en brindar soporte crítico para centros de datos de diferentes escalas, impulsando el desarrollo general del ecosistema HPC.

Vendedores de productos InfiniBand en el mercado

Tecnologías Mellanox (Adquirido por NVIDIA® Networking)

Mellanox, un actor líder en el campo InfiniBand (IB), fue adquirido por NVIDIA en abril de 2020. La plataforma oficial para comprar productos Mellanox es NVIDIA Networking Store. Esta tienda es eficiente y confiable y ofrece una amplia gama de conectores. Sin embargo, es posible que algunos productos no estén disponibles directamente en el sitio web oficial. En los casos en que los productos no estén disponibles en el sitio oficial, los clientes tienen la opción de comprarlos a los socios de NVIDIA.

Red de socios NVIDIA®

Los socios de NVIDIA son proveedores clave de las últimas soluciones y suministros del mercado, incluidos transceptores y cables IB. Los cables y transceptores IB se distribuyen globalmente a través de la red de distribuidores/distribuidores autorizados de NVIDIA. Puede encontrar información sobre distribuidores/comerciantes en el sitio web oficial de NVIDIA. Debido a la estrecha colaboración entre distribuidores/socios y NVIDIA, pueden surgir desafíos como escasez de conectores, oferta de mercado insuficiente y ciclos de entrega largos.

FS.com

FS es un socio de élite de NVIDIA® y ofrece una amplia variedad de productos InfiniBand en su sitio web oficial, incluidos switches NVIDIA® InfiniBand, módulos InfiniBand, cables InfiniBand, and adaptadores NVIDIA® InfiniBand. El sitio web de FS mantiene un amplio stock de productos InfiniBand y garantiza una entrega rápida. Si desea comprar productos InfiniBand u obtener soluciones InfiniBand, puede comunicarse con FS para obtener ayuda.

Consejos para elegir el producto InfiniBand

Los productos InfiniBand desempeñan un papel crucial en los centros de datos informáticos de alto rendimiento y seleccionar los productos adecuados es fundamental para el éxito operativo. El completo sistema InfiniBand incluye conmutadores InfiniBand, adaptadores InfiniBand, InfiniBand LongHaul, puerta de enlace InfiniBand a Ethernet, cables y transceptores InfiniBand, gestión de software y telemetría InfiniBand y software de aceleración InfiniBand.

Elegir los productos InfiniBand adecuados es fundamental para los centros de datos informáticos de alto rendimiento. Las consideraciones incluyen requisitos de ancho de banda y distancia, conectores, presupuesto, compatibilidad, confiabilidad y necesidades futuras, todo lo cual contribuye a seleccionar el conector IB adecuado.

Concerning InfiniBand network interconnect products:

• Los cables de cobre de alta velocidad DAC ofrecen una solución económica para interconexiones de alta velocidad y corto alcance.

• Los cables activos de AOC utilizan tecnología óptica para la transmisión de datos a largas distancias.

• Los módulos ópticos se utilizan comúnmente para interconexiones de alta velocidad y larga distancia.

Comprender las diferentes categorías de productos, velocidades y módulos de paquetes ayuda a tomar decisiones informadas, mientras que elegir el proveedor adecuado garantiza la recepción de productos InfiniBand de alta calidad que se alinean con los requisitos de rendimiento y presupuesto.

InfiniBand o Ethernet: InfiniBand es mejor para la informática HPC

Algunos usuarios todavía tienen dudas sobre si utilizar InfiniBand o Ethernet en la potencia informática de HPC. En realidad, para informática de alto rendimiento, InfiniBand es más adecuado.

Se pueden encontrar discusiones detalladas sobre las diferencias específicas entre InfiniBand y Ethernet en InfiniBand vs. Ethernet: ¿Qué son ellos? Para comprender mejor las distinciones entre los dos, puedes consultar este artículo.

En el ámbito de la informática de alto rendimiento (HPC), InfiniBand presenta ventajas sobre Ethernet en varios aspectos clave:

Mecanismo de control de flujo

InfiniBand emplea control de flujo de extremo a extremo, lo que garantiza que los mensajes no se congestionen durante la transmisión, logrando así una red sin pérdidas. Por el contrario, el mecanismo de control de flujo de Ethernet es relativamente más simple, lo que puede provocar congestión y pérdida de datos..

Ventaja de la topología de red

InfiniBand introduce un administrador de subred en su red de Capa 2, capaz de configurar la ID local de los nodos y calcular/distribuir información de la ruta de reenvío a través del plano de control. Esto facilita el despliegue de redes a gran escala con facilidad, evitando problemas de inundación, VLAN o interrupción de bucles. Esto confiere una ventaja única a InfiniBand sobre Ethernet.

Parámetros de rendimiento

InfiniBand proporciona mayor ancho de banda, menor latencia y menos fluctuación, lo que lo convierte en una opción ideal para una transmisión de datos rápida y confiable en entornos HPC. En comparación con Ethernet, InfiniBand cuenta con velocidades de transferencia de datos más rápidas que van desde 40G a 400G, mientras que Ethernet está actualmente limitada a 100G.

Idoneidad para cargas de trabajo de GPU

InfiniBand es más adecuado para manejar cargas de trabajo de GPU, lo que permite la transferencia de datos de alta velocidad entre CPU y GPU. Esto es particularmente crucial para tareas que exigen una potencia computacional sustancial, donde Ethernet puede presentar debilidades relativas.

Soporte para computación paralela

InfiniBand permite que múltiples procesadores se comuniquen simultáneamente, mostrando un rendimiento superior en computación paralela. Esto es esencial para aplicaciones que requieren amplias capacidades computacionales paralelas.

Clasificación mundial HPC TOP500

Según las últimas clasificaciones globales HPC TOP500, la participación de mercado de InfiniBand ha aumentado constantemente y actualmente domina el TOP100, mientras que la participación de mercado de Ethernet está disminuyendo.

Conclusión

Actualmente, nos encontramos en una era floreciente la Computación General (AIGC). Los principales gigantes de plataformas como OpenAI, Microsoft y Google, así como empresas centradas en aplicaciones como Midjjourney y Character Al, están acelerando el desarrollo y la evolución de las aplicaciones y servicios. Además, la rápida aparición de nuevas empresas y aplicaciones está creando una atmósfera altamente competitiva en el campo de la inteligencia artificial.

Es evidente que la potencia informática juega un papel crucial en la determinación de la productividad. Actualmente, existe una notable escasez de productos NVIDIA IB. Para satisfacer las demandas de su negocio, es fundamental elegir el proveedor y los productos InfiniBand adecuados.