Hardware

Microsoft prepara RDMA sobre USB4 para Windows 11 y permite distribuir modelos de IA entre varios PCs

Microsoft prepara RDMA sobre USB4 para Windows 11 y permite distribuir modelos de IA entre varios PCs

Microsoft ha anunciado RDMA sobre USB4 para Windows 11, una tecnología que permitirá conectar varios ordenadores para ejecutar conjuntamente modelos de inteligencia artificial que superen los recursos de un único equipo. La implementación aprovecha conexiones USB4 de hasta 80 Gbps para transferir información directamente entre regiones de memoria de distintos sistemas, reduciendo la latencia y la intervención del procesador durante las comunicaciones.

Las primeras mediciones muestran latencias de entre 28 y 50 microsegundos, aproximadamente cuatro veces inferiores a las obtenidas mediante Ethernet sobre el mismo enlace USB4. TechPowerUp destaca las posibilidades de esta conexión para distribuir cargas de IA entre distintos PCs, aunque la implementación todavía tiene carácter experimental y su llegada a versiones convencionales de Windows 11 no dispone de una fecha confirmada.

RDMA reduce considerablemente la latencia frente a Ethernet sobre USB4

La tecnología Remote Direct Memory Access (RDMA) permite transferir datos entre regiones de memoria de diferentes ordenadores sin atravesar buena parte de las capas habituales de comunicación de red. Este mecanismo reduce las operaciones intermedias y el consumo de recursos de CPU, dos factores importantes cuando varios sistemas necesitan intercambiar información constantemente.

Para comprobar sus ventajas, Microsoft conectó dos PCs mediante USB4 y midió el tiempo de ida y vuelta de los mensajes utilizando RDMA y Ethernet sobre USB4 con paquetes UDP. Los resultados muestran entre 28 y 50 microsegundos con RDMA, frente a 116-194 microsegundos mediante UDP, dependiendo del tamaño de los mensajes utilizados.

La mejora resulta especialmente relevante para la inferencia distribuida de modelos de IA, donde los distintos equipos deben intercambiar datos repetidamente durante la generación de cada token. En estas condiciones, reducir la latencia puede resultar tan importante como disponer de un elevado ancho de banda, aunque no implica que todas las aplicaciones vayan a multiplicar su rendimiento por cuatro.

Las conexiones USB4 admiten configuraciones de 40 y 80 Gbps, con una latencia RDMA similar en las mediciones de Microsoft. El enlace de 80 Gbps ofrece mayor capacidad de transferencia, pero la velocidad efectiva dependerá de los controladores, el hardware y las características de cada carga de trabajo.

Varios PCs podrán combinar sus recursos para ejecutar modelos de IA más grandes

La principal aplicación consiste en repartir un mismo modelo de inteligencia artificial entre varios ordenadores, utilizando la memoria y la capacidad de procesamiento gráfico disponibles en cada uno. Esto permite trabajar con modelos que no cabrían en un único PC, evitando recurrir necesariamente a servidores especializados o servicios cloud.

Microsoft ya ha realizado demostraciones con equipos basados en AMD Ryzen AI Max. Tres mini PCs con gráficos Radeon 8060S y 128 GB de memoria unificada cada uno, conectados mediante USB4 de 40 Gbps, consiguieron ejecutar Qwen3-235B-A22B con cuantización de 4 bits a aproximadamente 18,5 tokens por segundo.

En sus propias mediciones, AMD obtuvo 21,98 tokens por segundo durante la generación y 117,98 tokens por segundo en el procesamiento del prompt. Son resultados obtenidos con una configuración y optimizaciones concretas, por lo que no deben extrapolarse a cualquier conjunto de ordenadores compatibles.

También se han efectuado pruebas con Intel Core Ultra Series 3 y conexiones Thunderbolt 4. Utilizando tres equipos con 64 GB de memoria cada uno, Intel consiguió ejecutar GPT-OSS-120B a 49,4 tokens por segundo, mientras que una configuración de cuatro sistemas alcanzó 54,2 tokens por segundo con un contexto de 1.024 tokens.

Estos benchmarks demuestran la viabilidad del planteamiento, pero no permiten comparar directamente el rendimiento de AMD e Intel, ya que utilizan modelos, configuraciones y condiciones de ejecución diferentes. Tampoco significa que Windows convierta automáticamente la memoria de todos los equipos en un único espacio compartido: el software debe distribuir expresamente el modelo y coordinar las operaciones.

NetworkDirect aprovecha los canales DMA de los controladores USB4

La implementación parte de las conexiones directas entre ordenadores que Windows 11 ya admite mediante USB4. Cada PC mantiene su propio dominio USB4, mientras que el administrador de conexiones de Windows establece un túnel punto a punto para intercambiar información con otro sistema.

Sobre esta infraestructura, un proveedor RDMA implementado por software utiliza los canales DMA del controlador USB4 para gestionar las operaciones de envío y recepción. Los datos se transfieren entre regiones de memoria previamente registradas, evitando copias adicionales en las capas habituales de comunicación.

Cada enlace utiliza dos pares de canales DMA, uno para datos y otro para tráfico de control. Su disponibilidad, junto con el número de puertos USB4, condiciona la cantidad de equipos que pueden conectarse. Microsoft utiliza NetworkDirect como interfaz de acceso, permitiendo adaptar frameworks compatibles sin desarrollar un sistema de comunicación específico para USB4.

Microsoft prepara RDMA sobre USB4 para Windows 11 y permite distribuir modelos de IA entre varios PCs captura

La vista previa exige hardware compatible y conexiones directas entre PCs

Aunque la tecnología ya cuenta con demostraciones funcionales, RDMA sobre USB4 todavía no está disponible de forma general en Windows 11. Microsoft prepara su incorporación al canal experimental Future Platforms de Windows Insider, mientras que el proveedor NetworkDirect y las herramientas de desarrollo ya están disponibles como proyectos open source.

Para utilizar la implementación experimental serán necesarios varios requisitos:

  • Dos o más PCs con Windows 11 y puertos USB4 administrados por el sistema operativo.
  • Conexiones USB4 de 40 Gbps o superiores, con cables compatibles entre los equipos.
  • Kernel DMA Protection, además de controladores y versiones de software compatibles en todos los sistemas.
  • Un framework preparado para RDMA, capaz de distribuir las operaciones y aprovechar los recursos de cada ordenador.

Existe además una limitación importante respecto a la conexión física. Aunque TechPowerUp menciona la posibilidad de encadenar equipos, Microsoft recomienda una topología de malla completa, con conexión directa entre cada pareja de PCs, porque las conexiones encadenadas reducen considerablemente el rendimiento. En una configuración de tres ordenadores, cada uno necesitaría dos puertos USB4 para establecer todos los enlaces.

La vista previa también requerirá habilitar la firma de controladores de prueba, lo que obliga a desactivar temporalmente Secure Boot. Microsoft recomienda utilizar equipos dedicados a las pruebas, no ordenadores de uso cotidiano. El transporte experimental tampoco recupera automáticamente las conexiones interrumpidas, responsabilidad que recae en las aplicaciones.

RDMA sobre USB4 abre una alternativa para ejecutar modelos de IA de gran tamaño sin adquirir infraestructura de red especializada, aprovechando hardware que numerosos PCs ya incorporan. Sin embargo, su utilidad dependerá de la compatibilidad del software, la memoria disponible y la eficiencia de la distribución de tareas. La integración en versiones estables de Windows 11 todavía no tiene una fecha confirmada.

Vía: TechPowerUp

Sobre el autor