Nasazení modelu

Strojové učení od začátku do konce

Joshua Stapleton

Machine Learning Engineer

Model jako služba

  • Stakeholdeři / uživatelé přistupují k modelu přes internet

  • Model je dostupný přes portál

    • Uživatelé zasílají dotazy / data
    • Obdrží diagnózu / predikce

  • Omezení:

    • Venkovské kliniky / bez přístupu k internetu
    • Vysoce zabezpečené prostředí / citlivá data

Symbol portálu znázorňující model jako službu

Strojové učení od začátku do konce

Nasazení na zařízení

Integrované architektury nasazení

  • Edge computing
  • Vhodné při nestabilním připojení k internetu

Ozubená kola v hlavě znázorňující výpočet na zařízení

Strojové učení od začátku do konce

Výhody a nevýhody nasazení na zařízení

Výhody:

  • Nižší latence
  • Bezpečnost
  • Využití v odlehlých / odpojených oblastech

Nevýhody:

  • Omezené prostředky
  • Aktualizace modelu
  • Monitorování
Strojové učení od začátku do konce

Implementační strategie

  • Prořezávání
  • Transfer learning
  • Dedikované frameworky

Ikona znázorňující strategii

Strojové učení od začátku do konce

Pojďme si procvičit!

Strojové učení od začátku do konce

Preparing Video For Download...