Ir para o conteúdo
onsuggest
Entrar
Artigo ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

Fonte: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 pessoas viram

Atalhos de teclado

Descoberta anterior
←P
Próxima descoberta
→N
Gosto
L
Não é para mim
X
Guardar
S
Mostrar esta ajuda
?
Fechar
Esc

Os atalhos funcionam na página de descobertas.