Samsung Electronics Co., Ltd., líder mundial en tecnología de memoria avanzada, ha anunciado hoy que ha desarrollado la primera memoria de gran ancho de banda (HBM) de la industria integrada con potencia de procesamiento de inteligencia artificial (IA), el HBM-PIM. La nueva arquitectura de procesamiento en memoria (PIM) ofrece poderosas capacidades de computación de IA dentro de la memoria de alto rendimiento, para acelerar el procesamiento a gran escala en centros de datos, sistemas de computación de alto rendimiento (HPC) y aplicaciones móviles habilitadas para IA.
Kwangil Park, vicepresidente de planificación de productos de memoria de Samsung Electronics, declaró: “Nuestra innovadora HBM-PIM es la primera solución programable del sector adaptada a diversas cargas de trabajo, impulsadas tanto por la IA como el HPC, el entrenamiento y la inferencia. Tenemos previsto desarrollar este avance colaborando con los proveedores de soluciones de IA para conseguir aplicaciones más avanzadas impulsadas por el PIM.”
Rick Stevens, Director Asociado del Laboratorio de Argonne para Computación, Medio Ambiente y Ciencias de la vida, señaló: “Estoy encantado de ver que Samsung está abordando los desafíos de la memoria de ancho de banda/energía para la computación HPC y la IA. El diseño HBM-PIM ha demostrado un impresionante rendimiento y aumento de potencia en importantes clases de aplicaciones de IA, por lo que estamos deseando trabajar juntos para evaluar su rendimiento en otros problemas de interés para el Laboratorio Nacional Argonne.”
La mayoría de los sistemas informáticos actuales se basan en la arquitectura von Neumann, que utiliza unidades de procesador y memoria separadas para llevar a cabo millones de tareas complicadas de procesamiento de datos. Este método de procesamiento secuencial requiere que los datos se muevan constantemente de un lado a otro, lo que provoca una saturación en el sistema, especialmente cuando se manejan volúmenes de datos cada vez mayores.
En su lugar, el HBM-PIM lleva la potencia de procesamiento directamente al lugar donde se almacenan los datos, colocando un motor de IA optimizado para la DRAM dentro de cada banco de memoria – una subunidad de almacenamiento – que permite el procesamiento en paralelo y minimiza el movimiento de datos. Cuando se aplica a la solución HBM2 Aquabolt de Samsung, la nueva arquitectura es capaz de ofrecer más del doble de rendimiento del sistema, al tiempo que reduce el consumo de energía en más de un 70%. El HBM-PIM tampoco requiere ningún cambio de hardware o software, lo que permite una integración más rápida en los sistemas existentes.
La ponencia de Samsung sobre HBM-PIM ha sido seleccionada para su presentación en la renombrada Conferencia Virtual de Circuitos de Estado Sólido (ISSCC) que se celebra el 22 de febrero. El HBM-PIM de Samsung está siendo probada en aceleradores de IA por los principales partners de soluciones de IA, y se espera que todas las validaciones se completen en la primera mitad de este año.