生成AIパスポート 第4回 生成AI 問8(全12問)
大規模言語モデルが応答を返すまでの時間(レイテンシ)に影響する要因として、Google「機械学習用語集」が挙げているものとして、不適切なものを1つ選びなさい。
適切。用語集は、入力と出力のトークン長を要因に挙げている。
適切。用語集は、モデルの複雑さを要因に挙げている。
不適切(これが正解)。キーボードの色は、レイテンシの要因ではない。
適切。用語集は、モデルを動かすインフラを要因に挙げている。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » 生成AI » トークン化・サブワード
正解
3
解説
トークンは、モデルが処理する単位。入力や出力が長いほど処理に時間がかかり、利用料金もトークン数で決まることが多い。応答の速さは、使いやすいアプリを作るうえで重要。