Контур зворотного зв'язку, перенавчання та розмічання

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

Контур зворотного зв'язку

  • Вихід моделі використовується як вхід системи:
    • Метрики/прогнози скеровують еволюцію системи
    • Можна застосовувати моніторинг моделі

 

  • Невід'ємна частина ML:
    • Дозволяє швидко навчатися й коригуватися
    • Краще пристосовується до змін

Дві циклічні стрілки, що ілюструють принцип зворотного зв'язку

End-to-End Machine Learning

Реалізація контуру зворотного зв'язку

Виявлення дрейфу даних

  • Розподіл вхідних даних змінюється з часом
  • Контур зворотного зв'язку: перенавчання на новіших даних

Онлайн‑навчання

  • Періодично перенавчайтеся на змінних даних
  • Поза дрейфом: адаптується до змін у структурі даних

Дрейф даних

Онлайн‑навчання

End-to-End Machine Learning

Ризики контурів зворотного зв'язку

Ризики...

  • Виходи моделі впливають на входи
  • Напр., рекомендації в соцмережах:
    • Максимізують залучення користувачів
    • Модель «вчиться» показувати певний тип контенту
    • Користувач бачить більше такого контенту
    • тощо
  • Формуються небажані моделі поведінки
  • Ще небезпечніше, коли автоматизовано

Великий червоний хрест: небезпека

End-to-End Machine Learning

Кращий спосіб використання зворотного зв'язку

  • Реактивний підхід:

    • Людина залучена в цикл
    • Прогнози моделі не змінюють вхідні дані

  • Пильність і нагляд — ключові!

Велика зелена галочка: кращий підхід

End-to-End Machine Learning

Давайте потренуємось!

End-to-End Machine Learning

Preparing Video For Download...