生成AIパスポート 第2回 AIエージェント 問10(全12問)
OWASPの「LLM01: プロンプトインジェクション」が挙げる対策として、不適切なものを1つ選びなさい。
適切。OWASPは、権限の管理と最小権限のアクセスを対策に挙げている。
適切。OWASPは、リスクの高い操作には人の承認を求めることを対策に挙げている。
不適切(これが正解)。OWASPは、信頼できない外部の内容は分離して明示し、利用者のプロンプトへの影響を抑えるべきとしている。
適切。OWASPは、敵対的テストと攻撃シミュレーションの実施を対策に挙げている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
3
解説
Webページやメール、ファイルの中に「前の指示を無視して…」のような命令が埋め込まれていると、それを読んだエージェントが操られるおそれがある(間接プロンプトインジェクション)。外部の内容は「データ」として扱い、命令として扱わない工夫が必要。