Amazon Bedrock AgentCore Gatewayで、vLLMのQwenとAmazon Bedrockを使い分けてみた
来源: Zenn ·
はじめに Fusicのレオナです。 社内ではOpenCodeから量子化されたQwen3.6を使っています。モデルはRunPodのGPUを借りてvLLMで動かしており、GPUを借りるのは平日の日中だけです。GPUがない時間帯は、Amazon Bedrockで使えるモデル群を代わりに答えさせたいと考えました。 そこで、Amazon Bedrock AgentCore Gateway(以下、AgentCore Gateway)の推論ターゲットを使い、vLLM経由とAmazon Bedrockを、1つのOpenAI互換のAPIから呼べるようにしました[1]。本ブログでは、以下の4点を検証しま...
常见问题
什么是 Amazon Bedrock AgentCore Gatewayで、vLLMのQwenとAmazon Bedrockを使い分けてみた？
Amazon Bedrock AgentCore Gatewayで、vLLMのQwenとAmazon Bedrockを使い分けてみた is a 文章 discovery curated from Zenn. はじめに Fusicのレオナです。 社内ではOpenCodeから量子化されたQwen3.6を使っています。モデルはRunPodのGPUを借りてvLLMで動かしており、GPUを借りるのは平日の日中だけです。GPUがない時間帯は、Amazon Bedrockで使えるモデル群を代わりに答えさせたいと考えました。 そこで、Amazon Bedrock…
如何访问或体验此内容？
You can experience this content directly on its original host (Zenn) by clicking the "Open Original" button.
此内容来源于哪里？
Curated from Zenn by the OnSuggest team to surface the most interesting and serendipitous content on the web.
相关发现
所有 科技 发现 →世界のCO₂排出量、今年は減る見込み。でも理由には「イラン紛争」がある
2026年の世界CO₂排出量が減少する予測の背景を解説。サステナビリティやクリーンエネルギーの普及と、イラン紛争による原油高の影響とは？
ホテルのテレビ、使わないのはもったいない。役に立つのは、Ankerの「魔法のケーブル」
ホテルのテレビをスマホの大画面モニターに変える「魔法のケーブル」。面倒な設定なしに大きな画面で動画視聴ができるんです。
iPhone20周年モデルは、アクションボタンが消えるかも
iPhone20周年モデルではアクションボタンが廃止され、カメラコントロールへ統合されるという最新の予測について詳しく解説します
ドラクエの序曲やレベルUP音が鳴る。ファミコンカセット型名刺入れでビジネスの冒険に旅立とう
ドラクエの名曲やレベルアップ音が鳴るファミコンカセット型名刺入れが登場しました。ビジネスの場に遊び心をプラスし、相手に強烈な印象を残すための詳細な特徴や価格をご紹介します。
キャンプ・非常時のポタ電依存、辞められます。イワタニの「マル暖プラス」はカセットガスでポカポカに
カセットガスで手軽に使えるイワタニの「マル暖プラス」を紹介。ポタ電や灯油ストーブの課題をクリアし、キャンプや非常時でもしっかり暖まるスポット暖房の魅力をお届けします。
家中をドローンがパトロール。米Amazonが次世代ホームセキュリティ端末を発表
Amazon傘下Ringが、家の中を移動して見守る次世代ホームセキュリティ端末、ドローン型カメラとロボット型カメラを発表しました。それぞれの特徴や価格、発売日を紹介。