商業、營運與倫理考量

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

透明度

• 關於 LLM 的透明度
• 企業必須了解 LLM 如何產生回應
• 建立信任的關鍵

責任歸屬

• 若 LLM 的建議無效
  • 誰該負責？
• 設計模型的軟體開發者？
• 部署它的公司？

LLM 的風險

• 傳播錯誤資訊的固有風險
• 對企業的影響包括：
  • 以錯誤資料做決策
  • 影響獲利
  • 傷害名譽
• LLM 被武器化的風險：
  • 欺騙、操縱、誤導利害關係人
  • 帶來名譽與營運風險

LLM 與環境

• 訓練 LLM 所需運算力耗能龐大
• 造成巨大的碳足跡
• 企業需了解並降低環境影響

如何建置 LLM？

• 企業需權衡務實考量
• 自建 LLM 還是採用第三方？

技術資源

自建

• 需大量資源：運算基礎設施與資料
• 能否投入？金錢與時間？

第三方

• 立即可用且可彈性擴充
• 無開發額外負擔

客製化 LLM

自建

• 可針對特定需求客製 LLM
• 依公司資料微調模型

第三方

• 表現成熟精良
• 預設較通用，除非客製化

更新與維護

自建

• 維護可確保 LLM 持續有效與安全
• 帶來持續成本

第三方

• 公司無需負責
• 由供應商處理更新與維護

資料處理

自建

• 保持對資料的掌控
• 使用敏感資料時尤為重要

第三方

• 可能需要分享資料
• 存在安全與隱私風險

成本效益

自建

• 平衡長期支出以確保成本效益
• 前期成本高

第三方

• 有持續性費用
• 前期成本低

選擇權在你！

一起來練習吧！

Large Language Models for Business