モデルの提供

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

Model-as-a-service（MaaS）

  • ステークホルダー／ユーザーはインターネット経由でモデルにアクセス

  • ポータルでモデルを公開

    • ユーザーがクエリ／データを送信
    • 診断／予測を受領

  • 懸念点:

    • 農村クリニック／インターネット非接続
    • 高セキュリティ環境／機微データ

サービスとしてのモデルを示すポータルのシンボル

End-to-End Machine Learning

オンデバイ ス提供

統合型サービングアーキテクチャ

  • エッジコンピューティング
  • 不安定な回線に有用

デバイス上計算を示す頭部の歯車

End-to-End Machine Learning

オンデバイス提供の長所と短所

長所:

  • レイテンシ低
  • セキュリティ
  • 遠隔／非接続地域で有用

短所:

  • 資源制約
  • モデル更新
  • 監視
End-to-End Machine Learning

実装戦略

  • プルーニング
  • 転移学習
  • 専用フレームワークの活用

戦略を示すアイコン

End-to-End Machine Learning

演習に進みましょう！

End-to-End Machine Learning

Preparing Video For Download...