SK hynix ha aprovechado el AI Infra Summit 2025, celebrado en Santa Clara del 9 al 11 de septiembre, para mostrar los últimos avances en su solución de memoria basada en procesamiento en memoria (PIM), conocida como AiM. La compañía presentó en su stand el nuevo AiMX, con demostraciones en tiempo real que pusieron de relieve su potencial para transformar el futuro de los servicios de inteligencia artificial.
AiMX: memoria inteligente para IA de nueva generación
El sistema de pruebas incluyó un servidor Supermicro GPU SuperServer SYS-421GE-TNRT3 equipado con dos NVIDIA H100 y cuatro tarjetas AiMX. Durante la demostración, los asistentes comprobaron cómo esta arquitectura mejora la gestión de cargas de trabajo al dividir los procesos en dos fases diferenciadas:
- Fase dependiente de memoria, ejecutada en el acelerador AiMX.
- Fase dependiente de cómputo, gestionada en la GPU.
De este modo, el sistema puede procesar más peticiones de usuario y manejar prompts más largos sin las ineficiencias habituales en configuraciones solo GPU.
Software optimizado y reducción de costes
SK hynix también presentó mejoras en el software de AiMX. La integración con el framework vLLM permite mayor estabilidad y soporte para generación de tokens largos en modelos de razonamiento complejo. Con ello, la solución no solo aumenta el rendimiento, sino que reduce costes operativos y consumo energético, ofreciendo una alternativa más eficiente que los sistemas GPU-only.
Además, durante el evento, Euicheol Lim, vicepresidente y responsable de Solution Advanced Technology en SK hynix, impartió la conferencia “Memory/Storage: Crushing the Token Cost Wall of LLM Service”. En ella detalló cómo la tecnología AiM puede reducir drásticamente el coste de procesamiento de tokens en LLM y contribuir a la transformación digital de sectores clave.
SK hynix reafirma así su liderazgo tecnológico en memoria para IA, con soluciones capaces de afrontar los desafíos de rendimiento, eficiencia y escalabilidad que marcarán el futuro de los servicios de inteligencia artificial.
Vía: TechPowerUp
