生成AIパスポート 第6回 AIエージェント 問10(全12問)
OWASP「LLM01:2025 プロンプトインジェクション」が挙げる攻撃の例について、不適切なものを1つ選びなさい。
適切。OWASPのシナリオ#6のとおり。
適切。OWASPのシナリオ#3のとおり。
不適切(これが正解)。OWASPは、一見意味のない文字列をプロンプトに付け足して、安全対策を回避しつつLLMの出力に悪意ある影響を与える例(敵対的サフィックス)を挙げている。
適切。OWASPのシナリオ#2のとおり。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
3
解説
採用や審査のように、外部から受け取った文書をLLMに読ませる業務は、ペイロード分割などの攻撃の入口になりうる。外部の内容を指示と区別して扱い、最終判断は人が行うことが大切。