本文へスキップ
onsuggest
ログイン
記事 ja

AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証

情報源: Zenn ·

はじめに 外部資料に含まれる悪意ある指示によって、AIエージェントが意図しないToolを呼び出してしまう。これは、プロンプトインジェクションの代表的なリスクの一つです。 以前の記事では、System Prompt・Amazon Bedrock Guardrails・AgentCore Policy の役割を、権限外の顧客資料を取得させようとするシナリオで比較しました。 https://zenn.dev/takuyousou/articles/agentcore-security-controls では、その場で悪意ある指示に従わなかったとしても、指示が長期記憶(Memory)に保存さ...

AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証とは?

AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証 is a 記事 discovery curated from Zenn. はじめに 外部資料に含まれる悪意ある指示によって、AIエージェントが意図しないToolを呼び出してしまう。これは、プロンプトインジェクションの代表的なリスクの一つです。 以前の記事では、System Prompt・Amazon Bedrock Guardrails・AgentCore Policy…

どのようにアクセスまたは体験できますか?

You can experience this content directly on its original host (Zenn) by clicking the "Open Original" button.

このコンテンツの提供元は?

Curated from Zenn by the OnSuggest team to surface the most interesting and serendipitous content on the web.

キーボードショートカット

前の発見
←P
次の発見
→N
いいね
L
合わない
X
保存
S
このヘルプを表示
?
閉じる
Esc

ショートカットは発見ページで使えます。