生成AIパスポート 第1回 AIエージェント 問12（全12問）
AIエージェントの安全な運用について、不適切なものを1つ選びなさい。
不適切（これが正解）。AI事業者ガイドラインの別添は、AIエージェントが人間の意図しない商品の注文やファイル削除などを行う可能性を指摘している。影響の大きい操作ほど人の確認が必要である。
適切。MCPの仕様は、信頼と安全のため、ツールの呼び出しを拒否できる人間が常にループの中にいるべき（SHOULD）としている。
適切。OWASPも、権限の大きい操作には人の承認を求める（human-in-the-loop）ことを対策に挙げている。
適切。自律的な動作の中で、意図しない操作が行われるリスクがある。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » AIエージェント » 連鎖的なエラー・Human-in-the-Loop
正解
1
解説
エージェントは1つの誤りが次の手順に引き継がれ、被害が連鎖的に大きくなることがある。重要な操作の前に人が確認・承認するHuman-in-the-Loopと、動作の記録・継続的なモニタリングを組み合わせる。