Tiiny AI Pocket Lab promete ejecutar modelos de IA de hasta 120.000 millones de parámetros en un mini PC de bolsillo

Tiiny AI Pocket Lab promete ejecutar modelos de IA de hasta 120.000 millones de parámetros en un mini PC de bolsillo

La compañía Tiiny AI ha revelado el precio oficial de su llamativo Pocket Lab, un mini PC extremadamente compacto orientado a la ejecución local de modelos de inteligencia artificial, que próximamente iniciará su campaña de financiación colectiva. El dispositivo destaca por integrar hardware basado en arquitectura ARM, una NPU dedicada y una capacidad teórica capaz de manejar modelos de IA de gran tamaño, algo poco habitual en equipos de dimensiones tan reducidas.

Con apenas 14,2 × 8 × 2,5 cm y un peso aproximado de 300 g, el sistema entra claramente dentro de la categoría de ordenadores ultraportátiles experimentales, situándose entre un mini PC tradicional y una plataforma portátil para desarrollo de IA local.

Un mini PC de bolsillo enfocado a la IA generativa

El Tiiny AI Pocket Lab se presenta como una solución pensada para desarrolladores, investigadores y entusiastas interesados en ejecutar modelos de IA sin depender de la nube, una tendencia que está creciendo rápidamente gracias a la mejora del silicio de NPU y la optimización mediante técnicas de cuantización.

Según la compañía, el dispositivo sería capaz de ejecutar modelos de hasta 120.000 millones de parámetros de forma local. No obstante, esta afirmación debe interpretarse con cautela, ya que incluso utilizando cuantización de 4 bits, mover modelos de este tamaño supone un desafío considerable en términos de ancho de banda de memoria, gestión térmica y rendimiento sostenido.

El fabricante menciona una velocidad de salida de 21,14 tokens por segundo en el modelo GPT-OSS de 120.000 millones de parámetros, aunque estos datos todavía carecen de validación independiente mediante benchmarks externos, por lo que será necesario esperar a pruebas reales antes de extraer conclusiones definitivas.

Hardware compacto con fuerte apuesta por la aceleración de IA

A nivel técnico, el equipo integra una configuración poco habitual para su tamaño, combinando CPU ARM, memoria de gran capacidad y aceleración dedicada para cargas de inteligencia artificial:

  • CPU ARM de 12 núcleos
  • 80 GB de memoria LPDDR5X
  • NPU dedicada de hasta 160 TOPS (INT8)
  • SSD de 1 TB
  • TDP de 30W

Esta combinación busca priorizar el procesamiento de modelos multimodales, la inferencia local y la experimentación con IA generativa sin necesidad de hardware de escritorio tradicional. El elevado volumen de memoria resulta especialmente relevante, ya que los modelos de IA dependen más del acceso rápido a memoria que de la potencia bruta de CPU en muchos escenarios.

Tiiny AI Pocket Lab promete ejecutar modelos de IA de hasta 120.000 millones de parámetros en un mini PC de bolsillo

Precio, crowdfunding y riesgos asociados

El Tiiny AI Pocket Lab tendrá un precio inicial de 1.399$ (~1.188€) durante su campaña de financiación colectiva, una cifra elevada pero coherente con el hardware anunciado y el enfoque especializado del producto. Los usuarios que reserven anticipadamente mediante un depósito de 10$ (~8€) recibirán un descuento adicional de 100$ (~85€) cuando el dispositivo entre en producción.

Aun así, conviene recordar que las campañas de financiación colectiva implican riesgos importantes, especialmente cuando el fabricante no cuenta con un historial previo de lanzamientos comerciales. Retrasos en producción, cambios de especificaciones o limitaciones de rendimiento real son escenarios relativamente frecuentes en este tipo de proyectos.

Para quienes busquen alternativas más convencionales con mayor potencia gráfica, opciones basadas en AMD Strix Halo, como el GMKtec Evo-X2, continúan siendo soluciones más consolidadas dentro del segmento de mini PC de alto rendimiento hasta la fecha.

Vía: NotebookCheck

Sobre el autor