ChatGPT 的限制

認識 ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT 的運作原理

揭開 LLM 的神祕面紗

 

揭開 LLM 的神祕面紗

 

揭開 LLM 的神祕面紗

揭開 LLM 的神祕面紗

揭開 LLM 的神祕面紗

揭開 LLM 的神祕面紗

揭開 LLM 的神祕面紗

限制 1－知識截斷

 

 

• 只訓練到某個日期以前：
  • GPT 3.5：2022 年 1 月
  • GPT 4：2023 年 4 月
• 不知道此日期之後的事件

 

限制 2－訓練資料偏誤

 

• ChatGPT 訓練於龐大的文字資料集，包括：

  • 書籍
  • 文章
  • 網站

• 模型可能學到訓練資料中的偏見

• 回應也可能產生偏誤

限制 3－脈絡追蹤

 

限制 3－脈絡追蹤

 

限制 3－脈絡追蹤

 

• 焦點轉移時，難以持續掌握脈絡
• 可能導致不準確或不相干的結果
• 提示：將對話聚焦在單一主題

 

限制 4－幻覺（Hallucination）

 

• 模型有時會自信地提供錯誤資訊
• 多見於超出其知識或能力範圍時

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

限制 5－法律與倫理議題

 

• 例：創作一首模仿某位現有歌手風格的歌曲
  • 新歌的所有權屬於誰？

 

限制 5－法律與倫理議題

 

• 例：創作一首模仿某位現有歌手風格的歌曲
  • 新歌的所有權屬於誰？

 

限制 5－法律與倫理議題

 

• 例：創作一首模仿某位現有歌手風格的歌曲
  • 新歌的所有權屬於誰？

 

• 很容易落入法律灰色地帶
• 所有權與隱私 → 第 2 章

 

一起來練習吧！

認識 ChatGPT