生成式 AI 的新進展

認識 ChatGPT

James Chapman

Curriculum Manager, DataCamp

接下來…

 

  • 生成式 AI 接下來會如何發展？
  • 需要克服哪些挑戰？
認識 ChatGPT

效能提升

 

  • 更像人類的內容
  • 處理更高複雜度
  • 更高可靠性

 

效能穩定提升的趨勢圖。

認識 ChatGPT

哪些因素推動了進步？

 

Large Language Models (LLMs)

  • 從龐大文字資料集學習
  • 演算法偵測文字中的模式
  • 以回饋評分來微調模型

大型語言模型的三大要素：訓練資料、用於偵測資料中模式的演算法，以及微調流程。

認識 ChatGPT

哪些因素推動了進步？

 

 

  • 訓練資料量將持續增加

 

更大片磚牆，代表更多訓練資料。

認識 ChatGPT

哪些因素推動了進步？

 

 

  • 訓練資料量將持續增加
  • 使用資料將有助於微調

使用資料回饋到模型微調流程。

認識 ChatGPT

打造均衡的資料集

 

挑戰：確保資料高品質且均衡

  • 資料量龐大，訓練前難以偵測偏誤

 

目標：建立更健全的偏誤緩解流程

示意模型可能從資料中學到偏見的圖示。

認識 ChatGPT

濫用的風險與機會

 

  • 誤導性標示 AI 產生的內容
  • 產製惡意內容（如垃圾訊息）

 

立法者介入：

  • 規範可能助益或阻礙 AI 發展

 

正義天平的雕像。

認識 ChatGPT

從通用到專用

 

  • ChatGPT 是可泛化的模型
  • 生成式 AI 將更趨專用化
  • 例：專為撰寫長而複雜程式碼設計的模型

使用 ChatGPT 產生爬取網站表格程式碼的範例。

認識 ChatGPT

其他類型的生成式 AI

 

image-generation.png

大型語言模型的三大要素：訓練資料、用於偵測資料中模式的演算法，以及微調流程。

1 DALL-E 3
認識 ChatGPT

AI 普及於眾！

 

  • 可近用性 是 ChatGPT 成功關鍵
  • AI 工具的 普及化
    • 每個人都應能受惠於這項技術

來自不同文化的人們，都能受益於 AI 工具。

認識 ChatGPT

一起來練習吧！

認識 ChatGPT

Preparing Video For Download...