Zum Inhalt springen
onsuggest
Anmelden
Artikel ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

Quelle: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 Personen haben es gesehen

Tastaturkürzel

Vorherige Entdeckung
←P
Nächste Entdeckung
→N
Mögen
L
Nicht für mich
X
Speichern
S
Diese Hilfe anzeigen
?
Schließen
Esc

Die Kürzel funktionieren auf der Entdeckungsseite.