Навчання моделі

Концепції Generative AI

Daniel Tedesco

Data Lead, Google

Обирайте режим train-спорту

Зображення літака і автомобіля.

  1. Апаратне забезпечення
  2. Час
    • Розмір датасету
    • Складність моделі
    • Кількість раундів навчання
  3. Вартість
Концепції Generative AI

Переходимо до просунутих технік

  • Базова генеративна модель — перший крок
  • Додаткові техніки спеціалізують її під конкретні задачі

Ключові додаткові техніки:

  1. Трансферне навчання та тонке налаштування
  2. RLHF
  3. Користувацькі вбудовування

Фото випускників на церемонії

Концепції Generative AI

Від котів до левів

  • Трансферне навчання переносить знання з однієї задачі на іншу
  • Тонке налаштування — це трансферне навчання для малого датасету

Модель навчається на зображеннях котів, каже «Все ще пухнасто, чотири лапи... зрозуміло!», і створює зображення лева

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
Концепції Generative AI

Куди потрапляє ваш відгук?

Зображення інтерфейсу Google Bard із виділеними варіантами відгуку «подобається/не подобається»

1 Google Bard, 2023
Концепції Generative AI

Лайк — кращі відповіді

Кілька текстових відповідей з оцінками «подобається/не подобається», що передаються роботу, який каже: «Добре, тепер я знаю, які відповіді подобаються людям»

1 Google Bard, 2023
Концепції Generative AI

Вбудовування як відбитки пальців

  • Подібні до відбитків пальців
  • Унікальні представлення сутностей даних
  • Передають зміст, контекст і зв'язки у стислому вигляді

Серія відбитків пальців

1 Wikimedia commons
Концепції Generative AI

Вбудовуємо Дена

Різні портретні фото Daniel Tedesco, що подаються генеративному ШІ

1 Daniel Tedesco, 2023
Концепції Generative AI

Ден у вбудовуваннях

Модель створює різні стилізовані портрети Daniel Tedesco

1 Портрети Daniel Tedesco з vana.com
Концепції Generative AI

Переходимо до практики!

Концепції Generative AI

Preparing Video For Download...