Un Galaxy S24+ y varios equipos modestos consiguen ejecutar gpt-oss-120b con 47 GB de memoria
Ejecutar localmente un modelo de 120.000 millones de parámetros suele exigir cantidades de memoria fuera del alcance de un PC convencional, especialmente cuando CPU o GPU deben mantener cargados pesos, contexto y datos intermedios. Sin embargo, el usuario de Reddit Medicine_Blogscanner ha conseguido ejecutar una versión cuantizada de gpt-oss-120b distribuyendo el trabajo entre varios ordenadores … Un Galaxy S24+ y varios equipos modestos consiguen ejecutar gpt-oss-120b con 47 GB de memoria








