生成AIパスポート 第6回 生成AI 問9(全12問)
LLMを自社のサーバーなど限られた環境で動かすときに使われる「量子化」について、Google「機械学習用語集」の説明に照らして、不適切なものを1つ選びなさい。
適切。用語集の量子化の説明のとおり。
適切。用語集が挙げる例のとおり。
不適切(これが正解)。用語集は、量子化によってモデルの予測の正確さが下がることがあるとしている。
適切。用語集が挙げる、量子化で減らせるもののとおり。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » 生成AI » オンプレミス/オープンソースLLM
正解
3
解説
オープンなモデルを自社の環境(オンプレミス)で動かすと、データを外部に出さずに済む一方、計算資源の用意が必要になる。量子化や蒸留でモデルを軽くすることは、その負担を下げる方法の1つ。