部署模型

端到端機器學習

Joshua Stapleton

Machine Learning Engineer

模型即服務（Model-as-a-service）

• 利害關係人／使用者透過網際網路存取模型

• 透過入口網站提供模型

  • 使用者送出查詢／資料
  • 接收診斷／預測

• 顧慮：

  • 偏鄉診所／無網路
  • 高度安全環境／敏感資料

裝置端服務

整合式服務架構

• 邊緣運算
• 對網路不穩情境特別有用

裝置端服務的優缺點

優點：

• 延遲更低
• 安全性佳
• 適用於離線／偏遠地區

缺點：

• 資源受限
• 模型更新不易
• 監控困難

實作策略

• 修枝（Pruning）
• 遷移學習（Transfer Learning）
• 使用專用框架

一起來練習吧！

端到端機器學習