К содержимому
onsuggest
Войти
Статья ja

Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす

Источник: Qiita ·

初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...

1 человек видели

Горячие клавиши

Предыдущее открытие
←P
Следующее открытие
→N
Нравится
L
Не для меня
X
Сохранить
S
Показать эту справку
?
Закрыть
Esc

Горячие клавиши работают на странице открытий.