AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証
情報源: Zenn ·
はじめに 外部資料に含まれる悪意ある指示によって、AIエージェントが意図しないToolを呼び出してしまう。これは、プロンプトインジェクションの代表的なリスクの一つです。 以前の記事では、System Prompt・Amazon Bedrock Guardrails・AgentCore Policy の役割を、権限外の顧客資料を取得させようとするシナリオで比較しました。 https://zenn.dev/takuyousou/articles/agentcore-security-controls では、その場で悪意ある指示に従わなかったとしても、指示が長期記憶(Memory)に保存さ...
よくある質問
AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証とは?
AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証 is a 記事 discovery curated from Zenn. はじめに 外部資料に含まれる悪意ある指示によって、AIエージェントが意図しないToolを呼び出してしまう。これは、プロンプトインジェクションの代表的なリスクの一つです。 以前の記事では、System Prompt・Amazon Bedrock Guardrails・AgentCore Policy…
どのようにアクセスまたは体験できますか?
You can experience this content directly on its original host (Zenn) by clicking the "Open Original" button.
このコンテンツの提供元は?
Curated from Zenn by the OnSuggest team to surface the most interesting and serendipitous content on the web.
関連する発見
テクノロジーのすべてのコンテンツ →あとどのくらい走れるか。スタミナがリアルタイムで見える、ランナーの武器「Suunto Run 2」
ランニングウォッチ「Suunto Run 2」の2カ月レビュー。視認性やバッテリーが向上し、新機能EnergySenseでスタミナの残量をリアルタイムで確認できることによるベネフィットとは。前作の「Suunto Run」にも触れつつレビューします。
お財布はいらない、ミャクミャクがいるから。スマートリングEveringに限定デザイン登場
限定ミャクミャクデザインのスマートリングEveringが登場。充電不要でVisaのタッチ決済やスマートロックの解除に対応し、財布を持たない完全手ぶらな日常を実現。
クリエイターになるなら今しかない。AdobeとAIで「想像力を形にする」能力はみんなのものに
AdobeとAIを活用して想像力を具現化できる時代が到来。クリエイターを目指すなら今がベストタイミングかもしれません。
1万円のシンセをAIで魔改造。電子楽器のファームウェア開放が始まった
中国のM-VAVEという楽器メーカーが販売している小型FMシンセ「FM-1」が、ちょっとした話題になっています。きっかけはユーザーによるカスタムファームウェアの開発です。この秋からソフトウェア改造が流行FM-1はアリエクなどを覗くと、だいた…
背中にディスプレイ! 「Xiaomi 18 Pro Series」がセール価格で予約受付中
日本初上陸となる背面ディスプレイ搭載のシャオミ最新フラッグシップスマホ「Xiaomi 18 Pro Series」。