生成AIパスポート 第5回 AIエージェント 問11(全12問)
AIエージェントに出力させる形式の扱いについて、OWASP「LLM01:2025 プロンプトインジェクション」の対策の説明に照らして、適切なものを1つ選びなさい。
不適切。出力形式を定めて検証することが対策として挙げられている。
不適切。確定的なコードで検証するよう勧めている。
不適切。出典の明示を求めることは対策の一部として挙げられている。
適切(これが正解)。OWASPは、明確な出力形式を指定し、詳しい理由づけと出典の明示を求め、確定的なコードで形式の順守を確かめるよう勧めている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » 連鎖的なエラー・Human-in-the-Loop
正解
4
解説
エージェントの出力を次の処理にそのまま流すと、1つの誤りが連鎖的に広がることがある。形式のチェックや、重要な操作の前の人による確認を挟むと、被害の広がりを抑えられる。