GPT 模型與訓練 LLMs

ChatGPT 中級

Alex Banks

Founder & Educator

GPT 的起源

圖片左側是一位驚訝的男子，右側有三個由左到右逐漸變高的紫色長條，標示為 GPT-1、GPT-2、GPT-3，代表版本規模的成長

插圖：一名男子站立，面向一個橢圓形，象徵神經元

插圖：一位困惑的男子，頭上有問號。右側顯示文字「Generative Pre-trained Transformer」，並以箭頭指向加粗、底線的「GPT」

插圖：一名男子拿鉛筆在筆記本上書寫。其左側顯示單字「Generative」

插圖：一名男子奔跑，身後拖著書本與電子裝置，右側標示「Pre-trained」

插圖：一名男子從一種狀態轉換到另一種狀態，上方標示「Transformer」

插圖：一名男子坐著使用筆電，旁邊有 ChatGPT 標誌

插圖：一位女子站著讀書，旁邊是一個大型機器人，兩者一起看書

大量、較低品質的網路資料插圖：一位女子手拿寫字板，旁邊有圖表與表格，說明 GPT 模型的預先訓練流程與資料

少量、高品質的對話資料插圖：一位女子站在機器人旁邊，並顯示一些對話資料範例

RLHF = Reinforcement Learning from Human Feedback（來自人類回饋的強化學習）

插圖：兩位女子手持問號卡片，頭上對話框分別寫著「Option A」與「Option B」

插圖：一位女子在機器人旁比出讚，螢幕上顯示三首關於 AI 的俳句。女子與機器人各自的思考框都寫著「This one!」

標記是人機協作

插圖：人形圖示與機器人圖示以滑桿相連，一名女子與大型機器人和諧地站在旁邊

ChatGPT 中級