生成AIパスポート 第6回 AIエージェント 問12(全12問)
LLMを使ったアプリケーションやAIエージェントの安全性の評価について、OWASP「LLM01:2025 プロンプトインジェクション」の対策の説明に照らして、適切なものを1つ選びなさい。
適切(これが正解)。OWASPは、モデルを信頼できない利用者として扱って定期的な侵入テストと侵害シミュレーションを行い、信頼の境界とアクセス制御の有効性を確かめるよう勧めている。また、RAGトライアドで応答を評価するよう勧めている。
不適切。モデルを信頼できない利用者として扱い、定期的にテストする。
不適切。攻撃のシミュレーションは対策として勧められている。
不適切。RAGトライアドでは、3つの観点で評価する。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » AIエージェントの評価(Eval・モニタリング)
正解
1
解説
AIエージェントは、公開前の評価(Eval)だけでなく、運用中のモニタリング(動きの記録と監視)も欠かせない。攻撃者の目線で弱点を探す取組はレッドチーミングとも呼ばれる。