Vai al contenuto
onsuggest
Accedi
Articolo ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

Fonte: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 persone l'hanno visto

Scorciatoie da tastiera

Scoperta precedente
←P
Scoperta successiva
→N
Mi piace
L
Non fa per me
X
Salva
S
Mostra questo aiuto
?
Chiudi
Esc

Le scorciatoie funzionano nella pagina delle scoperte.