Проєктування моделі та збір даних

Концепції Generative AI

Daniel Tedesco

Data Lead, Google

Як «заправити бак» знань

Паливний індикатор, що показує «порожньо»

Робітник конвеєра встановлює капот автомобіля

1 GM Fairfax Assembly Plant
Концепції Generative AI

Розробка моделі

Кроки розробки моделі

  1. Дослідження та дизайн
  2. Збір навчальних даних
  3. Навчання моделі
  4. Оцінювання моделі
Концепції Generative AI

Дослідження та розробка Stable Diffusion

Приклад виходу Stable Diffusion

Згенероване користувачем зображення зі Stable Diffusion Beta

R&D Stable Diffusion

  • Мета: обрати генерацію зображень
  • Архітектура: дифузійна модель
  • Ресурси: 256 GPU, 150 тис. год, $600 тис.
1 Stability AI, допис Emad Mostaque у Twitter
Концепції Generative AI

Збір даних: не типовий ML‑модуль

Підготовка навчальних даних

  • Потрібні величезні обсяги
  • Різноманітні, контекстні дані
  • Потребують препроцесингу

Серія зображень котів з великого набору зображень.

1 Блог Laion
Концепції Generative AI

Збір даних: конфіденційність і безпека — критичні

 

Підготовка навчальних даних

Персональні ідентифікаційні дані (PII)

  • Анонімізувати або агрегувати
  • Зберігати у захищеному місці з керованим доступом

 

Зображення з розмазаними обличчями

Концепції Generative AI

Перейдемо до практики!

Концепції Generative AI

Preparing Video For Download...