Google está recurriendo a una medida poco habitual para combatir la presión que existe sobre el suministro de memoria: desmontar servidores retirados, recuperar sus módulos DDR4 y volver a utilizarlos dentro de sistemas de IA de nueva generación. La compañía incluso ha desarrollado adaptadores específicos capaces de integrar esta memoria más antigua en su infraestructura actual.
La decisión refleja hasta qué punto está cambiando el principal cuello de botella de los centros de datos dedicados a inteligencia artificial. Según Nikhil Cherian, director sénior de infraestructura de la cadena de suministro de Google Cloud, la industria está pasando de estar limitada por capacidad de cálculo a estar limitada por memoria, que puede representar ya más del 75% del coste de hardware de determinados servidores de IA.
Google ha diseñado adaptadores para reutilizar módulos DDR4 antiguos
Cherian explicó durante SEMICON Taiwan 2026 que Google está recuperando componentes todavía utilizables de servidores retirados para crear una especie de cadena interna de reciclaje de hardware. Entre ellos se encuentran módulos DDR4 que, pese a pertenecer a una generación anterior, siguen teniendo valor en determinadas partes de su infraestructura.
El gigante tecnológico ha llegado a desarrollar adaptadores de hardware específicos que permiten conectar estas memorias de generaciones anteriores a servidores de IA más recientes. No se trata simplemente de reutilizar máquinas antiguas completas, sino de recuperar componentes concretos y adaptarlos a nuevas plataformas cuando su rendimiento continúa siendo suficiente para determinadas tareas.
La medida también permite prolongar la vida útil de una memoria que el mercado empezaba a considerar veterana. DDR4 continúa siendo perfectamente válida para numerosas cargas auxiliares, aunque su ancho de banda y eficiencia quedan lejos de DDR5 o HBM cuando se utilizan directamente para alimentar aceleradores de alto rendimiento.
No obstante, las declaraciones disponibles no permiten concluir que Google esté sustituyendo de manera generalizada DDR5 por DDR4 en todos sus nuevos servidores. La compañía habla de integrar memoria anterior mediante adaptadores dentro de sistemas de nueva generación, por lo que su utilización puede limitarse a determinados subsistemas, configuraciones o cargas donde el ancho de banda no sea tan crítico.
La memoria puede representar más del 75% del coste del hardware
El problema al que intenta responder Google va bastante más allá del precio de unos módulos DDR4. Cherian señala que la infraestructura de IA está atravesando un cambio estructural donde capacidad, ancho de banda, latencia y consumo de memoria empiezan a limitar el rendimiento incluso cuando existe suficiente capacidad de cálculo disponible.
Modelos cada vez mayores, arquitecturas Mixture-of-Experts, agentes de IA y contextos más largos requieren enormes cantidades de memoria para mantener pesos, activaciones y especialmente KV Cache. Si los datos no llegan suficientemente rápido al acelerador, disponer de más FLOPS deja de proporcionar una mejora proporcional porque las unidades de cálculo pasan parte del tiempo esperando.
De ahí que Google sitúe HBM y DRAM avanzada por encima del 75% del coste de hardware de determinados sistemas de IA. No significa que ese porcentaje pueda aplicarse indistintamente a cualquier servidor, pero sí ilustra el enorme peso económico que la jerarquía de memoria está adquiriendo en las plataformas destinadas a grandes modelos.
La reutilización de DDR4 tiene, por tanto, dos ventajas inmediatas: reduce la necesidad de adquirir memoria nueva y aprovecha un inventario que Google ya posee. Para un hiperescalador que opera enormes cantidades de servidores, incluso recuperar componentes relativamente baratos puede convertirse en una fuente relevante de capacidad agregada.
Google también está intentando reducir cuánta memoria necesita cada cálculo
La respuesta de la compañía no se limita al hardware. Google también trabaja sobre bibliotecas de software, arquitectura de los modelos y compresión de KV Cache con el objetivo de reducir la cantidad de memoria necesaria por unidad de capacidad de cálculo.
Esta parte resulta especialmente importante porque ampliar indefinidamente la memoria física no es sostenible. HBM ofrece un enorme ancho de banda, pero es cara, compleja de encapsular y limitada en capacidad, mientras DDR5 proporciona mucha más capacidad por servidor a costa de trabajar considerablemente más lejos del acelerador.
Reducir el tamaño de KV Cache, mejorar la distribución de los modelos o aumentar la reutilización de datos permite atacar el mismo problema desde la otra dirección. En lugar de suministrar continuamente más memoria al hardware, se intenta conseguir que cada token generado o entrenado necesite mover menos información.
TPU 8i utiliza 288 GB de HBM3E y 384 MB de SRAM
La magnitud del problema queda clara al observar la nueva generación de aceleradores de Google. El TPU 8i, diseñado principalmente para inferencia, razonamiento y serving, integra nada menos que 288 GB de HBM por chip con 8,601 TB/s de ancho de banda, además de 384 MB de SRAM integrada.
Esa SRAM triplica la capacidad de la generación anterior y está pensada precisamente para mantener partes activas del KV Cache lo más cerca posible de las unidades de cálculo. Cada acceso que puede resolverse dentro del propio silicio evita tener que salir hacia niveles de memoria más lentos, reduciendo tanto latencia como consumo energético.
El TPU 8t, orientado al entrenamiento a gran escala, adopta una configuración distinta con 216 GB de HBM, 6,528 TB/s de ancho de banda y 128 MB de SRAM. Google está diseñando, por tanto, diferentes jerarquías de memoria según el comportamiento de cada carga, en lugar de intentar resolver todos los escenarios mediante una única arquitectura.
Axion sustituye los antiguos hosts x86 dentro de los nuevos sistemas TPU
Otra modificación importante de esta generación está en los procesadores encargados de actuar como hosts. Tanto TPU 8t como TPU 8i utilizan ahora CPUs Axion basadas en Arm, desarrolladas internamente por Google, sustituyendo la dependencia de procesadores x86 utilizada anteriormente en parte de su infraestructura TPU.
Estas CPUs se ocupan de tareas como preprocesamiento de datos, coordinación del sistema y trabajo auxiliar alrededor de los aceleradores, por lo que también necesitan cantidades importantes de memoria convencional. Es precisamente en este tipo de capas donde disponer de DDR4 reutilizable puede resultar útil si Google consigue integrarla sin comprometer demasiado el rendimiento.
Conviene nuevamente separar ambos conceptos: el TPU continúa dependiendo de HBM de altísimo ancho de banda para alimentar directamente sus unidades de cálculo, mientras DDR4 se movería en niveles mucho más alejados dentro de la jerarquía del sistema. Recuperar DDR4 no sustituye, por tanto, la necesidad de HBM3E en los propios aceleradores.
Incluso reutilizar DDR4 sigue sin ser suficiente
Cherian reconoció que, pese a estas medidas, la capacidad recuperada continúa siendo insuficiente para cubrir las necesidades de Google. La compañía ha pedido a los fabricantes de memoria que aceleren la expansión de producción ante una demanda que sigue creciendo impulsada por centros de datos y grandes modelos de inteligencia artificial.
La situación ayuda además a explicar por qué DDR4 está teniendo una vida comercial mucho más larga de lo previsto. Fabricantes que habían reducido progresivamente su producción se encuentran ahora con un mercado donde incluso grandes hiperescaladores están interesados en recuperar módulos antiguos debido a la presión ejercida sobre toda la cadena de suministro de DRAM.
Para Google, desmontar servidores retirados es una solución pragmática antes que elegante. Pero que una compañía con su capacidad de compra haya llegado a diseñar adaptadores específicos para reutilizar DDR4 muestra claramente hasta dónde ha escalado el problema: en la infraestructura de IA actual, disponer del acelerador más rápido sirve de poco si no existe memoria suficiente para mantenerlo alimentado.
Vía: Wccftech
