El Neural Engine de 32 núcleos del A20 Pro podría superar a su GPU de 7 núcleos en cargas de IA específicas

El Neural Engine de 32 núcleos del A20 Pro podría superar a su GPU de 7 núcleos en cargas de IA específicas

Apple ha convertido el A20 Pro en uno de los SoC móviles más ambiciosos de su generación, pero una de sus mayores novedades podría estar lejos de CPU y GPU. Según Max Weinbach, su doble Neural Engine de 16 núcleos podría alcanzar un rendimiento de cálculo pico superior al de la GPU de 7 núcleos cuando ejecuta cargas específicamente diseñadas para aprovechar la NPU.

La comparación necesita, sin embargo, bastante contexto. No significa que el Neural Engine sea más rápido que la GPU en términos generales, sino que determinados modelos de IA, procesamiento de prompts, reconocimiento de voz o tareas de visión pueden adaptarse mucho mejor a sus pipelines especializados. Fuera de esos escenarios, CPU y GPU continúan teniendo ventajas claras.

Dos Neural Engine de 16 núcleos cambian el reparto de trabajo

El A20 Pro incorpora un doble Neural Engine de 16 núcleos, con 32 núcleos en total, frente a una GPU formada por siete núcleos. La arquitectura está pensada para acelerar especialmente inferencia y otras operaciones de inteligencia artificial ejecutadas directamente en el dispositivo.

Según Weinbach, el rendimiento pico disponible puede llegar a superar al proporcionado por la GPU cuando la carga encaja correctamente con las unidades y formatos que puede ejecutar el Neural Engine. La ventaja procede precisamente de dedicar hardware específico a un tipo de operación mucho más limitado que el asumido por una GPU convencional.

Esto explica por qué comparar directamente el número de núcleos de ambas unidades tampoco resulta demasiado útil. GPU y Neural Engine están diseñados para trabajos diferentes, utilizan arquitecturas distintas y no ofrecen el mismo rendimiento frente a una misma operación solo porque una de las dos tenga más unidades internas.

Por ejemplo, intentar utilizar el Neural Engine para renderizado gráfico complejo o animaciones sería completamente ineficiente. Sin embargo, modelos de IA pequeños, operaciones matriciales compatibles y determinadas fases de inferencia pueden adaptarse de forma mucho más directa a la NPU, liberando además recursos de CPU y GPU.

Modelos de unos 3.000 millones de parámetros encajan especialmente bien

Una de las cargas señaladas son modelos de lenguaje de alrededor de 3B, unos 3.000 millones de parámetros, ejecutados localmente. Su tamaño permite que determinadas versiones cuantizadas puedan aprovecharse directamente en dispositivos móviles sin depender constantemente de procesamiento remoto.

El procesamiento inicial de prompts también podría beneficiarse considerablemente. Durante la fase conocida como prefill, los tokens de entrada deben procesarse antes de comenzar la generación de la respuesta, y determinadas operaciones sobre modelos cuantizados pueden mapearse directamente hacia los pipelines del Neural Engine.

En ese escenario, la NPU podría asumir una parte importante del cálculo y dejar más margen térmico y computacional disponible para CPU y GPU, algo particularmente relevante en un smartphone donde todas las unidades comparten límites muy ajustados de consumo y temperatura.

No todas las fases de un LLM presentan las mismas características. La generación de un único token puede sufrir por la propia sobrecarga necesaria para despachar trabajo al Neural Engine, haciendo que CPU o GPU terminen siendo una opción más eficiente para determinadas operaciones pequeñas o menos paralelizables.

Por eso, el A20 Pro no parece buscar que una única unidad ejecute todo el modelo. El planteamiento más interesante está en distribuir cada tipo de carga hacia el bloque de hardware que pueda resolverla de forma más eficiente, utilizando CPU, GPU y Neural Engine según las características concretas de cada operación.

Voz, cámara y reconocimiento de imagen también pueden beneficiarse

Las aplicaciones potenciales tampoco se limitan a modelos de lenguaje. El reconocimiento de voz directamente en el dispositivo y las mejoras de audio en tiempo real son cargas especialmente adecuadas para una NPU, al combinar operaciones repetitivas de inferencia con la necesidad de mantener bajo el consumo energético.

En fotografía y vídeo aparecen todavía más posibilidades. Funciones como estimación de profundidad en tiempo real, desenfoque de fondo, reconocimiento de texto o segmentación de imágenes pueden trasladarse al Neural Engine siempre que los modelos utilizados estén preparados para sus capacidades.

Este reparto puede resultar especialmente importante en funciones que necesitan mantenerse activas durante largos periodos. Ejecutar constantemente una red neuronal sobre la GPU tendría un coste energético considerable, mientras que un acelerador especializado puede realizar determinadas operaciones con una eficiencia mucho mayor.

Aun así, siempre habrá cargas que deban regresar a CPU o GPU. Weinbach señala como ejemplos operaciones FP32 sin cuantizar, cálculos de coma flotante de 64 bits o tensores cuya forma cambia dinámicamente, situaciones donde el Neural Engine puede no ser el destino adecuado.

El rendimiento real dependerá, por tanto, tanto del hardware como del software. Una NPU extremadamente potente aporta poco si una aplicación no está preparada para utilizar sus pipelines, mientras que un modelo específicamente optimizado puede mostrar diferencias enormes frente a ejecutar la misma tarea sobre hardware más generalista.

Superar a la GPU no significa sustituirla

La afirmación de que el Neural Engine puede ofrecer mayor cálculo pico que la GPU resulta llamativa, pero conviene evitar una interpretación equivocada. No existe una equivalencia directa entre el rendimiento de ambas unidades, y tampoco puede trasladarse esa ventaja a videojuegos, renderizado 3D o cualquier otro trabajo gráfico.

La GPU de siete núcleos continúa teniendo sus propios aceleradores y una arquitectura diseñada para paralelismo gráfico y cómputo general compatible. El Neural Engine, en cambio, obtiene su ventaja cuando el problema puede reducirse a las operaciones concretas para las que fue construido, sacrificando flexibilidad a cambio de rendimiento y eficiencia.

Esto también explica por qué las cifras teóricas de cálculo de una NPU deben tratarse con precaución. El rendimiento pico solo representa una capacidad máxima bajo condiciones y formatos determinados, no la velocidad que cualquier aplicación obtendrá automáticamente al ejecutarse en un iPhone.

Los primeros iPhone 18 Pro, iPhone 18 Pro Max e iPhone Duo todavía deberán pasar por pruebas específicas que exploten correctamente esta arquitectura. Será necesario medir modelos reales, tiempos de procesamiento y consumo para conocer cuánto aporta el doble Neural Engine de 16 núcleos fuera de cifras teóricas.

Por ahora, la información apunta a uno de los cambios arquitectónicos más interesantes del A20 Pro: la inteligencia artificial deja de ser una carga secundaria para disponer de 32 núcleos especializados capaces, en trabajos muy concretos, de ofrecer incluso más cálculo pico que la propia GPU de siete núcleos. La clave estará en cuántas aplicaciones consigan aprovechar realmente esa capacidad.

Vía: Wccftech

Sobre el autor