生成AIパスポート 第4回 AIエージェント 問8(全12問)
マルチモーダルなAIでのプロンプトインジェクションについて、OWASPの「LLM01」の説明に照らして、適切なものを1つ選びなさい。
不適切。画像に指示を隠す攻撃が挙げられている。
不適切。OWASPは、こうしたシステムの複雑さが攻撃対象を広げるとしている。
適切(これが正解)。OWASPは、マルチモーダルAIでは、無害な文章に添えた画像に指示を隠すなど、モダリティ間のやり取りを悪用される独自のリスクがあるとしている。
不適切。OWASPは、現在の技術では検出や緩和が難しい新しい攻撃のおそれがあるとしている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » プロンプトインジェクション
正解
3
解説
OWASPは、安全対策を無視させるように仕向ける「ジェイルブレイク」も、プロンプトインジェクションの一種と位置づけている。エージェントが画像やPDFを読み込むときも、中の指示に従わないような設計が必要。