Makale
ja
Strataを使ってMac mini（32GB）でQwen3.8-Flash-Next（125B）を動かす
Kaynak: Qiita ·
初めに 普段は M4 Mac mini（32GB）でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...
1 kişi gördü
Benzer keşifler
-
新型iMac（M6）触ってきた。2年ぶりのアップグレードで何が変わった？
Makale · Gizmodo JP
-
eBayで“GPUが9600基”まとめて出品される怪現象。お値段なんと94億円、ラック300台つき
Makale · Gizmodo JP
-
カジノで稼ぐ米先住民族に新たな脅威。その正体はスマホの「予測アプリ」
Makale · Gizmodo JP
-
億万長者のイーロン・マスクによると「貯金なんて意味ない」らしいけど...？
Makale · Gizmodo JP
-
サイバー攻撃がここにも…。米軍「冷凍庫がハッキングされてアイスが全部溶けた、許せない」
Makale · Gizmodo JP
-
ガソリンも消毒液もへっちゃら。軍用基準×化学耐性の現場向けケータイ
Makale · Gizmodo JP