Pipe Network publica una compilación Kimi K3 de 350 GB para Mac Studios de 512 GB
El modelo MLX podado cabe en la memoria unificada, pero Pipe informa 0.20 tokens por segundo y advierte que la calidad se degrada.
By Ryan Merket · Published
Primary source: Pipe Network on X
Por qué importa
Pipe hizo que un modelo frontier de 1.56TB pudiera cargarse en una sola Mac de alta memoria, exponiendo la limitación más difícil detrás de los pesos abiertos: la inferencia local utilizable aún exige concesiones severas.
David Rhodus (@DavidRhodus) and Pipe Network han publicado un port de Apple MLX que reduce el K3 de Moonshot AI de 2.8 billones de parámetros Kimi de aproximadamente 1.56TB en disco a tan solo 350GB, permitiendo que una versión fuertemente podada del modelo se cargue en un Mac Studio con 512GB de memoria unificada.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.