擴充超越 PoC

AI Strategy 策略

Vidhi Chugh

AI strategist and ethicist

擴充代表什麼?

 

資料量持續成長

 

  • 可擴充性
    • 管理不斷增加的資料、使用者與任務
    • 維持效能、品質與成本可負擔

 

  • 擴大量能 = 報酬提升 3 倍
    • 納入既有商業流程
AI Strategy 策略

雲端運算平台

 

  • 從 PoC 到全面開發

 

  • 雲端運算平台
    • 符合資料法規
    • 安全性
    • 支援多雲與混合雲架構

 

選對雲端運算平台

AI Strategy 策略

部署考量

  • 成本與效能分析
  • 治理措施;部署與管理的容易度

成本與效能分析

AI Strategy 策略

自建或採買

 

  • 現成模型 vs. 客製化演算法

  • 對系統效能有更高掌控

對系統效能有更高掌控

 

  • 專案時程

  • 客製化演算法比現成演算法更花時間

專案時程

AI Strategy 策略

可擴充性與效能

 

  • 擴充 = 不犧牲效能的高品質預測

 

  • 效能指標
    • 準確度
    • 延遲:模型做出預測所需時間
    • 吞吐量:在特定時間內的預測數量

 

 

擴充:不犧牲效能的高品質預測

AI Strategy 策略

大規模資料

  • 機器學習模型的核心

  • 管理資料生命週期

    • 準備與維護

機器學習模型的核心

AI Strategy 策略

資料存取

 

  • 僅特定部門可存取;與其他部門隔離
    • 造成資料孤島
    • 降低透明度
    • 模型效率不佳

 

  • 來源不同 = 格式各異
    • 需標準化

 

造成資料孤島

AI Strategy 策略

可擴充的架構

 

設計正確的架構

 

  • 設計正確的架構

 

  • 微服務
    • 可獨立擴充
    • 彈性高
    • 回應快速

 

  • 協調服務互動較困難
AI Strategy 策略

擴充所需基礎設施

GPU 可加速任務但成本更高

 

  • 大量資料運算
  • GPU 可加速任務,但成本更高

 

  • 權衡效益
    • 加速模型訓練
    • 提升效能
    • 但需額外成本
AI Strategy 策略

簡化 AI 流程

  • 詳細的實作計畫與架構設計
  • 標準化並簡化流程
    • 模型建置、部署與監控

標準化並簡化流程

AI Strategy 策略

一起來練習吧!

AI Strategy 策略

Preparing Video For Download...