Scalability

प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Sinan Ozdemir

Data Scientist, Entrepreneur, and Author

Compute constraints in scalability

  • CPU, मेमोरी, और डिस्क की ज़रूरतें ML मॉडल की scalability को प्रभावित करती हैं
  • ट्रेनिंग और इन्फरेंस के दौरान CPU, मेमोरी, और डिस्क उपयोग मापें
  • जल्दी पहचान से मॉडल की scalability बेहतर होती है

server room

प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Model complexity and scalability

  • मॉडल की complexity scalability को प्रभावित करती है
  • complexity और scalability में संतुलन चुनौतीपूर्ण है
  • संतुलन की रणनीतियाँ:
    • फीचर selection तकनीकें (जैसे Chi-squared, PCA)
    • मॉडल compression तकनीकें (जैसे pruning)

PCA

Principal Component Analysis (PCA)

प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Velocity of deployments and scalability

  • तेज़ deployment और iteration प्रासंगिकता और सटीकता के लिए अहम है
  • रणनीतियाँ
    • continuous integration/deployment - अगला पाठ कवर करेगा
    • online learning - नए डेटा के साथ real time में सीखना

runner

प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Optimal scaling strategies

  • trade-offs: serving लागत, re-training, और deployment velocity
  • scaling रणनीतियाँ: horizontal scaling, vertical scaling, auto-scaling
    • Horizontal scaling: और मशीनें जोड़ना
    • Vertical scaling: मशीन का आकार बढ़ाना
    • Auto-scaling: workload के आधार पर मशीनों की संख्या समायोजित करना

scaling

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Considering your optimal scaling strategy

  • Horizontal scaling में load balancing, partitioning उपयोग होता है
  • Horizontal scaling trade-offs: जटिलता, लागत ($)

  • Vertical scaling में मशीन का आकार बढ़ता है

  • Vertical scaling trade-off: लागत ($)

आदर्श रूप से - horizontal और vertical दोनों का auto-scale करें.

scaling

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

अभ्यास करते हैं!

प्रोडक्शन के लिए मशीन लर्निंग मॉडल विकसित करना

Preparing Video For Download...