Aller au contenu
onsuggest
Connexion
Article ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

Source: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 personnes l'ont vu

Raccourcis clavier

Découverte précédente
←P
Découverte suivante
→N
J'aime
L
Pas pour moi
X
Enregistrer
S
Afficher cette aide
?
Fermer
Esc

Les raccourcis fonctionnent sur la page des découvertes.