La startup singapurense Acrab ha presentado Gelix 1, un SoC diseñado para ejecutar modelos de inteligencia artificial y agentes locales dentro de equipos compactos. El chip está fabricado mediante un proceso de 5 nm e integra una CPU Arm de 20 núcleos, GPU, aceleradores multimedia y una NPU multinúcleo.
La compañía asegura que Gelix 1 puede ejecutar modelos de hasta 100.000 millones de parámetros y superar al Mac mini con M4 Pro en determinadas pruebas de inferencia. Sin embargo, los resultados proceden de benchmarks internos de Acrab y todavía no cuentan con verificación independiente, metodología completa ni datos sobre consumo y rendimiento sostenido.
Gelix 1 utiliza memoria unificada con 273 GB/s
Gelix 1 incorpora una arquitectura de memoria unificada LPDDR5X mediante un bus de 256 bits, permitiendo que la CPU, la GPU y la NPU accedan al mismo conjunto de datos. El ancho de banda anunciado alcanza 273 GB/s, exactamente la misma cifra ofrecida por el Apple M4 Pro.
El chip también integra 8 MB de SRAM L1 y una caché L2 compartida capaz de alcanzar 768 GB/s. Esta jerarquía busca mantener dentro del SoC los datos utilizados con mayor frecuencia, reduciendo los accesos hacia la memoria principal durante las operaciones de atención, prefill y generación de tokens.
Por tanto, la supuesta ventaja frente al M4 Pro no procedería de disponer de mayor ancho de banda externo. Acrab la atribuye a su aceleración específica para mecanismos de atención, al diseño de las cachés y a una distribución de las cargas optimizada entre los diferentes motores de cálculo.
Acrab anuncia 1.416 tokens por segundo en prefill
La compañía asegura que Gelix 1 alcanzó 1.416 tokens por segundo durante la fase de prefill utilizando el modelo Gemma 26B y una ventana de contexto de 40.000 tokens. En la misma prueba, un Mac mini con M4 Pro habría conseguido aproximadamente 188 tokens por segundo.
La diferencia equivaldría a un rendimiento unas 7,5 veces superior, pero afecta exclusivamente al prefill, la fase donde el sistema procesa la entrada inicial antes de generar la respuesta. Una tasa elevada reduce la espera al analizar documentos extensos, historiales largos o grandes cantidades de contexto.
El resultado no demuestra que Gelix 1 sea 7,5 veces más rápido durante toda la inferencia. Acrab no ha publicado la velocidad de generación posterior, la precisión utilizada, el consumo eléctrico, las temperaturas ni la configuración exacta del software ejecutado en ambas plataformas.
Ejecutar modelos 100B dependerá de la memoria instalada
Acrab afirma que sus sistemas podrán ejecutar localmente modelos de hasta 100.000 millones de parámetros, pero todavía no ha comunicado la capacidad máxima de memoria unificada. Este dato resulta esencial porque el tamaño del modelo depende directamente de la cuantización y del espacio reservado para el contexto.
Un modelo denso de 100B cuantizado a 4 bits necesita aproximadamente 50 GB únicamente para almacenar los pesos. El sistema también debe reservar memoria para el motor de inferencia, las activaciones y la caché KV, cuyo consumo aumenta rápidamente al ampliar la ventana de contexto.
Una configuración de 64 GB podría ejecutar determinados modelos de 100B mediante cuantización agresiva y contextos reducidos, pero 96 o 128 GB resultarían capacidades mucho más adecuadas. El Mac mini con M4 Pro está limitado a 64 GB de memoria unificada, condicionando su uso con modelos de este tamaño.
Los 700 TOPS necesitan mayor contexto técnico
Los materiales promocionales atribuyen a Gelix 1 una potencia de hasta 700 TOPS, aunque otras referencias sitúan el rendimiento alrededor de 650 TOPS. Acrab no ha detallado la precisión numérica utilizada, por lo que la cifra no permite comparar directamente el chip con otras NPU o aceleradores.
Un valor elevado puede medirse mediante operaciones INT8, INT4 o formatos todavía inferiores, generando resultados muy diferentes según la carga. Para valorar realmente Gelix 1 serán más importantes la velocidad de generación, el consumo, la latencia, la capacidad de memoria y la compatibilidad con modelos y herramientas.
La ausencia de estos datos impide situarlo con precisión frente al Mac mini, NVIDIA DGX Spark o los próximos equipos basados en RTX Spark. Gelix 1 presenta una arquitectura especializada prometedora, pero todavía depende excesivamente de cifras proporcionadas por la propia compañía.
Agent Box llevará la inferencia local a equipos compactos
Agent Box será uno de los primeros sistemas basados en Gelix 1. Acrab lo presenta como un centro de IA personal capaz de ejecutar modelos multimodales, varios agentes coordinados y memoria persistente sin depender permanentemente de servidores externos.
El procesamiento local puede reducir la latencia, evitar pagos continuos por tokens y mantener documentos sensibles dentro del dispositivo. Este planteamiento resulta especialmente relevante para empresas, desarrolladores y usuarios profesionales que necesitan ejecutar asistentes privados o automatizaciones durante largos periodos.
Acrab todavía no ha comunicado el precio, la disponibilidad, el consumo ni las configuraciones de memoria. Estos datos determinarán si Gelix 1 puede competir realmente con el Mac mini o si termina convertido en una plataforma especializada cuyo coste aumenta considerablemente al equiparla para ejecutar modelos de 100B.
La propuesta destaca por reunir una CPU Arm de 20 núcleos, aceleración neuronal, 273 GB/s de memoria unificada y un diseño compacto orientado específicamente hacia la IA. Sin pruebas independientes, Gelix 1 sigue siendo una promesa técnica interesante, pero todavía no una alternativa demostrada al Apple M4 Pro.
Vía: Wccftech
