跳到内容
onsuggest
登录
文章 ja

ローカルLLMはどんな業務で使えるのか? DGX Spark + DeepSeek V4-FlashのSlackチャットボットを評価した

来源: Zenn ·

はじめに 損害保険ジャパンでAIエージェントシステムを開発しているエンジニアです。 ローカルLLMが実際の業務でどこまで使えるかを検証するため、Slackボットの頭脳をクラウドのAPIではなく手元のマシン1台で完結させる構成を組み、評価してみました。 今回ローカルLLMを検証した背景には、社内の会話やドキュメントを扱う上で社外APIに出さない選択肢を持っておきたかったこと、そして検証用に手配したDGX Sparkが手元にあったという事情があります。 環境としては、DGX Spark(NVIDIAのデスクトップ型GPUマシン)1台にDeepSeek V4-Flashを載せ、llama-...

1 人看过

键盘快捷键

上一条发现
←P
下一条发现
→N
喜欢
L
不适合我
X
保存
S
显示此帮助
?
关闭
Esc

快捷键在发现页面上有效。