Автоматический подбор гиперпараметров

Полностью автоматизированный MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Что такое гиперпараметр?

Гиперпараметры — настраиваемые значения, управляющие процессом обучения

  • Не обучаются в ходе обучения модели
  • Задаются до начала обучения

$$

Примеры:

  • Архитектура нейронной сети
  • Количество ветвей в дереве решений
  • Скорость обучения
Полностью автоматизированный MLOps

Что такое подбор гиперпараметров?

Изображение: специалист по данным настраивает гиперпараметры нейронной сети. Процедура обучения подбирает обучаемые параметры. Разные комбинации дают разные результаты.

Полностью автоматизированный MLOps

Методы подбора гиперпараметров

  • Поиск по сетке

$$

$$

  • Случайный поиск

$$

$$

  • Байесовская оптимизация

Анимация поиска по сетке: упорядоченный перебор.

Анимация случайного поиска: произвольный перебор.

Анимация байесовской оптимизации: интеллектуальный поиск.

Полностью автоматизированный MLOps

Автоматизация подбора гиперпараметров

Изображение: механизм выполняет перебор комбинаций гиперпараметров.

Полностью автоматизированный MLOps

Шаги автоматического подбора гиперпараметров

  • Необходимо задать:
    • Набор оптимизируемых гиперпараметров
    • Пространство поиска для каждого параметра
    • Метрику качества для оптимизации
    • Критерий остановки

Изображение процесса: определить оптимизируемые гиперпараметры, задать пространство поиска для каждого, указать целевую метрику, задать критерий остановки. Весь процесс основан на методе подбора гиперпараметров.

Полностью автоматизированный MLOps

Автоматический поиск оптимальных гиперпараметров

$$

Предыдущая схема процесса дополнена: в нижней части найден оптимальный набор гиперпараметров.

Полностью автоматизированный MLOps

Гиперпараметры и симметрия сред

$$

Изображение: симметрия сред. Одинаковый набор подобранных гиперпараметров используется как в разработке и экспериментах, так и в продакшене.

Полностью автоматизированный MLOps

Подбор гиперпараметров и отслеживание экспериментов

Изображение процесса автоматического подбора гиперпараметров. В верхней части — система автоматического отслеживания экспериментов, собирающая метаданные, в том числе гиперпараметры, использованные в процессе подбора. Метаданные сохраняются в хранилище.

Полностью автоматизированный MLOps

Пример — визуализация гиперпараметров

Пример инструмента визуализации при подборе гиперпараметров.

Полностью автоматизированный MLOps

Давайте потренируемся!

Полностью автоматизированный MLOps

Preparing Video For Download...