跳到内容
onsuggest
登录
文章 ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

来源: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 人看过

键盘快捷键

上一条发现
←P
下一条发现
→N
喜欢
L
不适合我
X
保存
S
显示此帮助
?
关闭
Esc

快捷键在发现页面上有效。