生成AIパスポート 第1回 AIエージェント 問11(全12問)
プロンプトインジェクションについて、適切なものを1つ選びなさい。
不適切。利用者の入力による直接プロンプトインジェクションのほかに、外部の内容を経由する間接プロンプトインジェクションがある。
不適切。システムプロンプトでの対策は一部の緩和にとどまる。権限の制限、人による承認、外部の内容の分離など、複数の対策を重ねる(多層防御)。
不適切。文章を扱うLLMやAIエージェントで特に問題になる。
適切(これが正解)。OWASPは、LLMがWebサイトやファイルなどの外部の情報源から入力を受け取り、その中の内容によってモデルの動作が変えられるものを間接プロンプトインジェクションとしている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
4
解説
AIエージェントは、Webページやメールを読んで行動するため、そこに書かれた「このデータを外部に送れ」のような文を指示と取り違えるおそれがある。外部から取り込んだ内容は「信頼できないデータ」として区別して扱う。