PoC以降のスケーリング

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

スケーリングとは何か

 

データ量の増加

 

  • スケーラビリティ:
    • データ・ユーザー・タスクの増加に対応
    • パフォーマンス・品質・コスト効率の維持

 

  • AIのスケーリング = 3倍の収益
    • 既存ビジネスプロセスへの統合
Artificial Intelligence (AI) Strategy

クラウドコンピューティングプラットフォーム

 

  • PoC から本格開発へ

 

  • クラウドコンピューティングプラットフォーム
    • データ規制への準拠
    • セキュリティ
    • マルチクラウド・ハイブリッドクラウドのサポート

 

適切なクラウドコンピューティングプラットフォームの選択

Artificial Intelligence (AI) Strategy

デプロイ時の考慮事項

  • コストとパフォーマンスの分析
  • ガバナンス対策;デプロイと管理の容易さ

コストとパフォーマンスの分析

Artificial Intelligence (AI) Strategy

内製 vs. 外部調達

 

  • 既製モデル vs. カスタムアルゴリズム

  • システムパフォーマンスの制御向上

システムパフォーマンスの制御向上

 

  • プロジェクトのスケジュール

  • カスタムアルゴリズムは既製アルゴリズムより時間がかかる

プロジェクトのスケジュール

Artificial Intelligence (AI) Strategy

スケーラビリティとパフォーマンス

 

  • スケーリング = パフォーマンスを維持しながら高品質な予測を実現

 

  • パフォーマンス:
    • 精度
    • レイテンシ: 予測にかかる時間
    • スループット: 単位時間あたりの予測数

 

 

スケーリング - パフォーマンスを維持しながら高品質な予測を実現

Artificial Intelligence (AI) Strategy

大規模データ

  • 機械学習モデルの中核

  • データライフサイクルの管理

    • 準備と維持

機械学習モデルの中核

Artificial Intelligence (AI) Strategy

データへのアクセス

 

  • 特定部門のみアクセス可;他から隔離
    • サイロ化を招く
    • 透明性の低下
    • モデルの非効率化

 

  • 異なるソース = 異なるフォーマット
    • 標準化

 

サイロ化を招く

Artificial Intelligence (AI) Strategy

スケール可能なアーキテクチャ

 

適切なアーキテクチャの設計

 

  • 適切なアーキテクチャの設計

 

  • マイクロサービス
    • 独立したスケーリング
    • 柔軟性
    • 応答性

 

  • 連携の調整が難しい
Artificial Intelligence (AI) Strategy

スケーリングのためのインフラ

GPUはタスクを高速化するがコストが増大する

 

  • 大規模なデータ演算
  • GPUはタスクを高速化するがコストが増大する

 

  • メリットの評価
    • モデルトレーニングの高速化
    • パフォーマンスの向上
    • 追加コストが発生
Artificial Intelligence (AI) Strategy

AIプロセスの効率化

  • 詳細な実装計画とアーキテクチャ設計
  • 標準化と効率化
    • モデルの構築・デプロイ・監視

標準化と効率化

Artificial Intelligence (AI) Strategy

では、練習しましょう!

Artificial Intelligence (AI) Strategy

Preparing Video For Download...