Axelera AI ha presentado los detalles de Titania, su tercera generación de aceleradores para inteligencia artificial, basada en una arquitectura de chiplets con memoria LPDDR6. La compañía europea busca competir en el mercado de inferencia para centros de datos mediante sistemas que priorizan la capacidad de memoria y la eficiencia energética frente a las configuraciones de GPU de mayor consumo.
Su propuesta más ambiciosa es AX8, un servidor de 4U con 20 PFLOPS FP8, 1 TB de memoria y un consumo estimado de entre 5 y 6kW. Sin embargo, estas especificaciones corresponden a un diseño todavía pendiente de comercialización. Axelera no ha publicado benchmarks independientes que permitan comprobar las ventajas de rendimiento y costes anunciadas.
Titania sustituye HBM por LPDDR6 para priorizar capacidad y eficiencia
La principal diferencia de Titania frente a numerosos aceleradores de centros de datos es su utilización de LPDDR6 en lugar de memoria HBM. Cada sistema en paquete (SiP) integra dos chiplets y dispone de 128 GB de memoria, una configuración destinada a ejecutar modelos de inteligencia artificial con requisitos elevados de capacidad.
El procesamiento se basa en Digital In-Memory Computing (D-IMC), la arquitectura que Axelera ya utiliza en sus plataformas Metis y Europa. Esta tecnología busca reducir el movimiento de datos durante determinadas operaciones de cálculo, uno de los principales factores que condicionan el consumo energético de los aceleradores de IA.
Titania incorpora además núcleos RISC-V programables y soporte para operaciones en coma flotante, ampliando su capacidad para trabajar con modelos generativos. La arquitectura pretende aprovechar mejor los datos disponibles antes que depender exclusivamente de aumentar el ancho de banda de memoria.
Esta decisión implica un compromiso técnico importante. HBM ofrece un ancho de banda elevado, pero requiere soluciones de integración más complejas y costosas. LPDDR6 permite adoptar una estrategia diferente, aunque su menor ancho de banda por interfaz puede convertirse en una limitación cuando las cargas de trabajo necesitan transferir grandes cantidades de información continuamente.
La propuesta podría resultar interesante para modelos Mixture of Experts (MoE), cuyo número total de parámetros puede ser muy elevado, aunque solo una parte participa en cada operación. En estas condiciones, la capacidad de memoria y la eficiencia con la que se utilizan los datos pueden resultar tan importantes como el rendimiento máximo del acelerador.
El servidor AX8 promete 20 PFLOPS FP8 y 1 TB de memoria
La configuración de referencia AX8 combina ocho aceleradores SiP, equivalentes a 16 chiplets, dentro de un servidor de 4U refrigerado por aire. Axelera anuncia 20 PFLOPS de capacidad FP8 y 19,6 TB/s de ancho de banda agregado, con un consumo habitual previsto de entre 5 y 6kW.
El fabricante sostiene que esta capacidad permitiría alojar un modelo de 1,6 billones de parámetros utilizando precisión FP4, dejando cierto margen para la caché KV. Como referencia, almacenar los pesos de un modelo de ese tamaño a cuatro bits requiere aproximadamente 800 GB, sin contabilizar metadatos ni otros recursos necesarios durante la inferencia.
Sin embargo, alojar un modelo completo en memoria no garantiza una generación rápida de tokens. El rendimiento dependerá del ancho de banda efectivo, la distribución de los parámetros entre aceleradores y el coste de comunicación cuando varias unidades tengan que trabajar conjuntamente.
Por ello, los 20 PFLOPS FP8 representan una capacidad de cálculo anunciada, no una medición del rendimiento real de inferencia. Para evaluar Titania frente a plataformas NVIDIA o AMD serían necesarias comparaciones con los mismos modelos, tamaños de contexto y niveles de concurrencia, incluyendo latencia y tokens generados por segundo.
Axelera promete siete veces más rendimiento por vatio, pero faltan pruebas
Según Axelera AI, Titania podría ofrecer hasta siete veces más rendimiento por vatio y una mejora de hasta 20 veces en el coste total de propiedad (TCO) frente a determinados servidores de centros de datos. Ambas cifras proceden de las estimaciones del fabricante.
El problema es que no se han publicado resultados independientes ni una metodología suficientemente detallada para reproducir esas comparaciones. El coste total depende del precio del hardware, la electricidad, la refrigeración, la utilización de los aceleradores y la vida útil de la instalación, entre otros factores.
La compañía intenta diferenciarse de los sistemas que necesitan racks de elevada densidad energética y refrigeración líquida especializada. Un servidor de 5-6kW puede resultar más sencillo de incorporar a determinados centros de datos existentes, aunque su integración sigue dependiendo de la capacidad eléctrica y térmica disponible.
El software también condicionará su competitividad. Voyager y AxeleraScript incorporarán mecanismos de paralelismo tensorial, de expertos y de canalización, junto con técnicas como speculative decoding y gestión de caché KV. Su eficacia será determinante para aprovechar las distintas unidades de procesamiento sin introducir retrasos excesivos en las comunicaciones.
La producción comenzará en 2027 y los despliegues llegarán en 2028
Axelera AI prevé iniciar la producción de Titania durante el tercer trimestre de 2027, con compromisos de despliegue de clientes que se extienden hasta principios de 2028. La compañía asegura contar con acuerdos asociados al proyecto por más de 300 millones de dólares (271,3 millones de euros), aunque esa cifra no equivale necesariamente a ingresos ya reconocidos.
La arquitectura estará disponible mediante tarjetas PCIe y módulos OAM, con sistemas desarrollados por fabricantes asociados. Axelera también plantea facilitar la transición desde Europa mediante su entorno de software, reduciendo la necesidad de adaptar nuevamente las aplicaciones existentes.
El proyecto ha sido diseñado en Europa con apoyo de EuroHPC Joint Undertaking y la iniciativa DARE, en un contexto de creciente interés por desarrollar alternativas europeas para infraestructura de inteligencia artificial.
El principal desafío de Titania será demostrar que una arquitectura con LPDDR6 y computación en memoria puede ofrecer suficiente rendimiento efectivo para compensar las ventajas de ancho de banda de HBM. Si Axelera consigue mantener una generación de tokens competitiva con menores requisitos eléctricos, su propuesta podría resultar atractiva para centros de datos convencionales. Por ahora, ese equilibrio sigue pendiente de validación con hardware comercial.
Vía: TechPowerUp
