生成AIパスポート 第2回 生成AI 問12(全12問)
大きなモデルを手元のサーバー(オンプレミス)など限られた環境で動かしやすくする手法の1つである「蒸留(ディスティレーション)」について、不適切なものを1つ選びなさい。
不適切(これが正解)。用語集は、生徒モデルの予測は通常、教師モデルの予測ほど良くはないとしている。
適切。用語集の蒸留の定義のとおり。
適切。用語集は、小さなモデルの利点として推論時間の短縮とメモリ・エネルギー使用量の削減を挙げている。
適切。オンプレミスやオープンなモデルを自社内で動かすと、データを外部に出さずに済むが、計算資源の制約があるため小さなモデルが選ばれることがある。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » 生成AI » オンプレミス/オープンソースLLM
正解
1
解説
オンプレミスやオープンソース(オープンウェイト)のLLMは、データを社外に出さずに使える利点がある一方、運用やセキュリティ対策は自社の責任になる。用途に応じてモデルの大きさを選ぶことが大切。