Проектирование модели и сбор данных

Концепции генеративного ИИ

Daniel Tedesco

Data Lead, Google

Знайте, чем «заправить» модель

Топливный датчик на нуле

Рабочий на заводском конвейере устанавливает капот автомобиля

1 Сборочный завод GM Fairfax
Концепции генеративного ИИ

Разработка модели

Этапы разработки модели

  1. Исследование и проектирование
  2. Сбор обучающих данных
  3. Обучение модели
  4. Оценка модели
Концепции генеративного ИИ

Исследования и разработка Stable Diffusion

Пример вывода Stable Diffusion

Изображение, сгенерированное пользователем в Stable Diffusion Beta

Исследования и разработка Stable Diffusion

  • Цель: генерация изображений
  • Архитектура: диффузионная модель
  • Ресурсы: 256 GPU, 150 тыс. часов, $600 тыс.
1 Stability AI, публикация Эмада Мостака в Twitter
Концепции генеративного ИИ

Сбор данных: особенности больших моделей

Подготовка обучающих данных

  • Требуются большие объёмы
  • Разнообразные, контекстно богатые данные
  • Необходима предобработка

Серия изображений кошек из крупного датасета.

1 Блог Laion
Концепции генеративного ИИ

Сбор данных: конфиденциальность и безопасность

 

Подготовка обучающих данных

Персональные данные (PII)

  • Анонимизация или агрегирование
  • Хранение в защищённом месте с ограниченным доступом

 

Изображение с размытыми лицами

Концепции генеративного ИИ

Давайте потренируемся!

Концепции генеративного ИИ

Preparing Video For Download...