生成AIパスポート 第2回 生成AI 問6(全12問)
ChatGPTの前身とされるInstructGPTの論文(2022年)の内容として、不適切なものを1つ選びなさい。
不適切(これが正解)。論文は、1.3BパラメータのInstructGPTの出力が、100分の1のパラメータしかないにもかかわらず、175BのGPT-3の出力より好まれたとしている。
適切。論文の冒頭で、言語モデルを大きくしても利用者の意図に従うのが本質的にうまくなるわけではないとしている。
適切。論文は、大きな言語モデルが事実に反する、有害な、又は役に立たない出力をすることがあるとしている。
適切。論文は、人間のフィードバックによるファインチューニングで言語モデルを利用者の意図に沿わせる道筋を示している。
選択肢を押すと答え合わせができます。
論点
生成AIパスポート » 生成AI » ChatGPTとGPTシリーズ
正解
1
解説
GPTシリーズは、GPT-3で規模を大きくし、InstructGPTで人間のフィードバック(教師ありのファインチューニング+RLHF)を取り入れ、それを対話向けにしたChatGPTへとつながった。