生成AIパスポート 第5回 AIエージェント 問10(全12問)
OWASP「LLM01:2025 プロンプトインジェクション」が挙げる攻撃の例について、適切なものを1つ選びなさい。
不適切。Webサイトやファイルなど外部の情報源を経由する間接的なプロンプトインジェクションもある。
不適切。OWASPは、複数の言語や、Base64・絵文字による符号化でフィルタを回避する攻撃の例を挙げている。
適切(これが正解)。OWASPは、攻撃者がRAGアプリケーションで使われるリポジトリの文書を書き換え、検索結果にその内容が返ると悪意ある指示がLLMの出力を変えて誤解を招く結果を生む例を挙げている。
不適切。OWASPは、RAGやファインチューニングでもこの脆弱性を完全には防げないとしている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
3
解説
RAGの参照先にだれでも書き込める場所が含まれていると、攻撃の入口になりうる。参照する文書の管理(書き込み権限や更新の確認)も対策の一部。