AMD ha lanzado su edición más reciente del software de código abierto ROCm, la versión 6.3. AMD ROCm 6.3 ofrece herramientas de vanguardia adicionales para simplificar el desarrollo y mejorar aún más el rendimiento y la escalabilidad de las cargas de trabajo de IA y HPC.
Características clave de ROCm 6.3 incluyen:
- SGLang: diseñado específicamente para optimizar la inferencia de modelos generativos de última generación como LLM y VLM en GPUs AMD Instinct. Consigue hasta 6 veces más rendimiento en la inferencia de LLM.
- Optimización de transformadores de nuevo nivel: FlashAttention-2, optimizado para ROCm 6.3, acelera el entrenamiento y la inferencia de modelos de transformadores hasta el triple, lo que reduce el tiempo de comercialización de la IA empresarial.
- Compilador Fortran de AMD: simplifica la aceleración de aplicaciones HPC heredadas en la GPU, ya que ofrece descarga directa, compatibilidad con versiones anteriores y fácil integración sin necesidad de realizar grandes cambios en el código.
- Nueva función FFT multinodo en rocFFT: la función FFT multinodo permite realizar cálculos FFT de alto rendimiento en grandes conjuntos de datos, lo que mejora la eficiencia y la toma de decisiones en campos como el petróleo, el gas y la investigación científica.
- Bibliotecas de visualización por ordenador mejoradas: las bibliotecas de visualización mejoradas, como AV1 y rocJPEG, permiten a los desarrolladores crear soluciones de IA avanzadas para diversas cargas de trabajo, como el análisis de vídeo y el aumento de conjuntos de datos, lo que beneficia a sectores que van desde los medios de comunicación y el entretenimiento hasta los sistemas autónomos.
Al adoptar la ética del código abierto y evolucionar continuamente para satisfacer las necesidades de los desarrolladores, AMD ROCm 6.3 sigue permitiendo a las empresas innovar más rápido, escalar de forma más inteligente y mantenerse a la vanguardia en sectores competitivos.
Vía: AMD
