生成AIパスポート 第5回 AIエージェント 問9(全12問)
LLMを組み込んだアプリケーションの権限の設計について、OWASP「LLM01:2025 プロンプトインジェクション」の対策の説明に照らして、不適切なものを1つ選びなさい。
適切。OWASPは、モデルのアクセス権限を意図した操作に必要な最小限に制限するよう勧めている(最小権限の原則)。
不適切(これが正解)。OWASPは、アプリケーション自身にAPIトークンを持たせ、これらの機能はモデルに渡すのではなくコードで扱うよう勧めている。
適切。OWASPの対策のとおり。
適切。OWASPは、高リスクの操作には人の承認を求めるよう勧めている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » 権限の過剰付与・最小権限の原則
正解
2
解説
OWASPは、プロンプトインジェクションを確実に防ぐ方法があるかは明らかでないとしているため、「もし乗っ取られても被害が小さくなる」ように権限を絞っておくことが重要になる。