生成AIパスポート 第3回 AIエージェント 問6(全12問)
プロンプトインジェクションについて、OWASPの「LLM01」の説明に照らして、適切なものを1つ選びなさい。
適切(これが正解)。OWASPは、直接のプロンプトインジェクションの入力は、意図的なもの(悪意のある攻撃者による)と、意図しないもの(利用者がうっかり予期しない振る舞いを引き起こす入力をする)のどちらもありうるとしている。
不適切。意図しない場合も含まれる。
不適切。外部の情報源から取り込んだ内容によるものを間接プロンプトインジェクションという。
不適切。モデルの振る舞いを意図しない形で変えるものを広く指す。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
1
解説
エージェントは、Webページやメール、ファイルを読み込んで作業するため、その中に紛れ込んだ指示に操られるおそれがある。読み込んだ内容は「命令」ではなく「データ」として扱う設計が大切。