Almacenamiento

ORICO FlashMem FM9800, un SSD PCIe 5.0 con hasta 128 GB de caché dedicada a IA

ORICO FlashMem FM9800, un SSD PCIe 5.0 con hasta 128 GB de caché dedicada a IA

ORICO ha anunciado el FlashMem FM9800, un SSD con interfaz PCIe 5.0 que incorpora una zona de almacenamiento específicamente destinada a aplicaciones de inteligencia artificial local. La unidad estará disponible en capacidades de 1 y 2 TB, con hasta 128 GB reservados para almacenar datos utilizados durante las operaciones de inferencia.

A diferencia de los SSD convencionales, el nuevo modelo combina dos áreas de almacenamiento con mecanismos independientes de gestión del desgaste y planificación de las operaciones de lectura y escritura. El objetivo consiste en complementar la capacidad de la memoria RAM y la VRAM mediante una capa adicional de almacenamiento.

ORICO divide el almacenamiento entre una partición convencional y otra dedicada a IA

El FlashMem FM9800 utiliza memoria NAND 3D TLC en formato M.2 2280, acompañada de una almohadilla térmica de grafeno para facilitar la disipación del calor. Su principal particularidad reside en la división del almacenamiento en dos áreas denominadas Storage OS y AI Cache.

La primera está destinada a alojar el sistema operativo, las aplicaciones y los archivos personales. La segunda permitirá almacenar determinados pesos de modelos neuronales, información de contexto y datos intermedios generados durante la inferencia de inteligencia artificial.

Las dos configuraciones anunciadas por ORICO presentan diferentes capacidades de almacenamiento convencional y caché dedicada:

Especificaciones FM9800 de 1 TB FM9800 de 2 TB
Interfaz PCIe 5.0 PCIe 5.0
Formato M.2 2280 M.2 2280
Memoria NAND 3D TLC 3D TLC
Storage OS 768 GB 1.638 GB
AI Cache 85 GB 128 GB
Refrigeración Grafeno Grafeno

 

El fabricante todavía no ha detallado cómo se distribuye la capacidad restante. Parte de ella podría estar relacionada con el aprovisionamiento adicional del controlador o con la configuración interna de la memoria NAND, aunque no se ha confirmado la asignación exacta del espacio reservado.

Una caché dedicada basada en memoria NAND con funcionamiento pSLC

La zona AI Cache utilizaría parte de la memoria NAND TLC configurada en modo pSLC (pseudo Single-Level Cell). Este procedimiento permite almacenar un único bit por celda en lugar de los tres habituales de la memoria TLC, sacrificando capacidad a cambio de mejorar determinadas características de funcionamiento.

Esta técnica ya se utiliza en numerosos SSD de consumo para acelerar temporalmente las operaciones de escritura. Sin embargo, la propuesta de ORICO contempla un espacio dedicado a cargas de trabajo de inteligencia artificial, con mecanismos específicos de gestión del desgaste y acceso a los datos.

Según recoge TechPowerUp, una de las imágenes promocionales del fabricante menciona velocidades de lectura de hasta 9.800 MB/s. No obstante, todavía se desconocen el rendimiento sostenido, las velocidades de escritura y las operaciones aleatorias de la unidad, aspectos especialmente relevantes para evaluar su comportamiento como caché.

El FlashMem FM9800 no sustituirá a la memoria RAM ni a la VRAM

Para aprovechar las posibilidades del SSD, ORICO recurrirá a una capa intermedia de software y al motor de inferencia local Herdsman. Ambos componentes estarán encargados de coordinar la distribución de datos entre la memoria gráfica, la RAM del sistema y la caché del SSD.

Este planteamiento podría resultar interesante en ordenadores compactos con memoria no ampliable, como los equipos basados en AMD Ryzen AI Max. También permitiría explorar la ejecución de modelos de lenguaje que requieren una capacidad superior a la memoria física disponible.

Sin embargo, incluso los SSD PCIe 5.0 más rápidos ofrecen un ancho de banda considerablemente inferior al de la memoria RAM o la VRAM, además de presentar mayores latencias de acceso. Las transferencias frecuentes entre estos niveles de memoria pueden penalizar la velocidad de inferencia, especialmente durante la generación de tokens.

El beneficio dependerá de la capacidad del software para identificar qué información debe permanecer en la memoria de mayor rendimiento y cuál puede trasladarse al almacenamiento. Por tanto, los 128 GB de AI Cache no equivalen a disponer de 128 GB adicionales de VRAM.

Precio y disponibilidad del ORICO FlashMem FM9800

La llegada de este tipo de unidades coincide con el creciente encarecimiento de la memoria DRAM. En estas circunstancias, aprovechar el almacenamiento NAND como recurso complementario para la IA local podría ofrecer alternativas a quienes necesitan ampliar las posibilidades de sus equipos sin sustituir otros componentes.

ORICO todavía no ha confirmado los precios, la fecha de comercialización ni las condiciones de garantía del FlashMem FM9800. Tampoco ha facilitado cifras de resistencia en TBW o benchmarks que permitan comparar su rendimiento con el de un SSD convencional utilizando técnicas de descarga de datos al almacenamiento.

El principal desafío será demostrar que la integración entre hardware y software aporta ventajas tangibles frente a las soluciones existentes. La capacidad adicional resulta atractiva sobre el papel, pero la velocidad de inferencia y la durabilidad de la memoria NAND determinarán su verdadera utilidad.

Vía: TechPowerUp

Sobre el autor