模型訓練

生成式 AI 概念

Daniel Tedesco

Data Lead, Google

選擇你的訓練運具

飛機與汽車的圖片。

  1. 硬體
  2. 時間
    • 資料集大小
    • 模型複雜度
    • 訓練輪數
  3. 成本
生成式 AI 概念

進階技術畢業

  • 基礎生成式 AI 模型是第一步
  • 進階技術可針對特定情境微調

重點進階技術：

  1. 遷移學習與微調
  2. RLHF
  3. 自訂 embeddings

畢業生合照

生成式 AI 概念

從貓到獅

  • 遷移學習將一個任務的知識轉移到另一個任務
  • 微調是用小型資料集進行的遷移學習

模型從獅子圖片學習，說「Still furry, four paws... I got it!」，然後產生獅子圖片

1 創用 CC 姓名標示-相同方式分享 4.0，Bing image generator
生成式 AI 概念

你的回饋去哪裡了？

Google Bard 對話介面，並強調「讚」與「倒讚」回饋選項

1 Google Bard，2023
生成式 AI 概念

按讚，讓回應更好

多段以讚或倒讚評分的文字回覆被送給一個機器人，機器人說：「Okay, now I know what kind of answers the humans like」

1 Google Bard，2023
生成式 AI 概念

Embeddings 如同指紋

  • 類似辨識指紋
  • 為資料實體建立獨特表示
  • 以精簡形式捕捉意義、脈絡與關係

一系列指紋

1 維基共享資源
生成式 AI 概念

為 Dan 建立 embedding

多張 Daniel Tedesco 肖像被提供給生成式 AI

1 Daniel Tedesco，2023
生成式 AI 概念

已建立的 Dan embedding

模型產生多種風格化的 Daniel Tedesco 大頭照輸出

1 Daniel Tedesco 肖像，來源 vana.com
生成式 AI 概念

一起來練習吧！

生成式 AI 概念

Preparing Video For Download...