什麼時候該信任 LLM

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

善用 Duolingo

  • Duolingo Max
    • 使用 ChatGPT 進行近似真人的對話

Duolingo Max 產品標誌

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

善用 Duolingo

  • Duolingo Max
    • 使用 ChatGPT 進行近似真人的對話
  • 學習者練習語言
    • GPT 扮演不同人設
    • 提供即時回饋

在手機 App 中使用 Duolingo Max 的畫面

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

理解 LLM

  • 企業領導者須真正理解 LLM
  • LLM 不是魔法！
    • 多半只是預測序列的下一部分
  • 它不會像人類那樣理解語言

手持魔杖變魔術的魔術師

Large Language Models for Business

LLM 有常識嗎？

男子手舉寫有「common sense」的標籤

  • LLM 沒有「真實」概念
  • 缺乏常識
  • 每種情境都需人類監督
  • 只依賴 LLM 可能帶來負面後果
Large Language Models for Business

訓練中的監督

  • LLM 依賴其訓練資料
  • 偏見或社會不公可能被放大
    • 檢查回應以辨識有害輸出

不同高度硬幣堆，上方放不同顏色棋子

Large Language Models for Business

是否存在偏見？

  • 若用仇恨言論訓練 LLM
    • 回應也可能帶有仇恨
  • 資料集含偏見
    • 會造成系統性輸出偏誤的 LLM
  • 可能延續偏見、刻板印象或錯誤資訊
  • 開發者已加入防範措施
  • 企業須了解並設置防護機制

「misinformation」一詞的圖像

Large Language Models for Business

彈性與其影響

  • 相同提示 → 不同回應
  • 創作有益，其餘情境可能出問題
  • 行銷團隊用 LLM 撰寫產品描述：
    • 客戶會看到不同描述
    • 品牌形象可能受損

男子在超市比較兩個僅包裝顏色不同的產品

Large Language Models for Business

安全警示！

  • LLM 複雜但仍可能被欺騙
  • 攻擊者可在網站嵌入惡意提示
    • 扭曲 LLM 的輸出
  • 稱為 prompt injection
  • 可能導致信譽受損

紅色三角形驚嘆號的資安警示圖示

Large Language Models for Business

LLM 的挑戰

  • 許多挑戰具產業特性
  • Open Worldwide Application Security Project（OWASP）
    • 量化這些挑戰
  • 企業需了解相關風險
  • 必須理解 LLM 的複雜細節
  • 確保有人類監督
  • 投資訓練與資安

路標顯示跨欄奔跑圖示，並寫有「Challenges Ahead」

1 https://owasp.org/
Large Language Models for Business

一起來練習吧！

Large Language Models for Business

Preparing Video For Download...