生成AIパスポート 第1回 AIエージェント 問10(全12問)
AIエージェントに付与する権限の考え方として、適切なものを1つ選びなさい。
不適切。権限の過剰付与は、誤動作や乗っ取り(プロンプトインジェクションなど)が起きたときの被害を大きくする。
不適切。OWASPは、APIトークンはアプリ側の処理で扱い、モデルに渡さないようにすることを勧めている。
適切(これが正解)。最小権限の原則である。AI事業者ガイドラインの別添も、ユーザーやシステムに付与する権限を業務遂行に必要な最小限に設定するとしている。
不適切。アクセスできる範囲を必要な分に絞ることが、情報漏えいなどの被害を抑える基本である。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » 権限の過剰付与・最小権限の原則
正解
3
解説
最小権限の原則は「必要なものだけを、必要な間だけ」。サンドボックス(隔離された環境)で動かす、使ってよいツールや宛先をホワイトリストで決める、なども合わせて使われる。