生成AIパスポート 第4回 生成AI 問7(全12問)
推論時の計算の費用を抑える「モデルカスケーディング」について、Google「機械学習用語集」の説明に照らして、不適切なものを1つ選びなさい。
適切。用語集の説明のとおり。
適切。用語集の説明のとおり。
適切。用語集の説明のとおり。
不適切(これが正解)。モデルカスケーディングは、一般には小さなモデルを選び、複雑な問い合わせのときだけ大きなモデルを選ぶことで、推論の費用を減らす。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » 生成AI » 推論モデルと推論時の計算
正解
4
解説
どのモデルを使うかを決める仕組みを「モデルルーター」という。推論に時間と計算をかけるほど答えの質が上がることもあり、用途に応じて速さ・費用・質のバランスを考える。