Обучение модели

Концепции генеративного ИИ

Daniel Tedesco

Data Lead, Google

Выберите способ обучения

Изображение самолёта и автомобиля.

Оборудование
Время
- Размер набора данных
- Сложность модели
- Количество итераций обучения
Стоимость

Переходим к продвинутым методам

Базовая генеративная модель ИИ — отправная точка
Продвинутые методы адаптируют её к конкретным задачам

Ключевые продвинутые методы:

Трансферное обучение и дообучение
RLHF
Пользовательские эмбеддинги

Фотография студентов на церемонии вручения дипломов

От кошек к львам

Трансферное обучение переносит знания из одной задачи в другую
Дообучение — разновидность трансферного обучения для небольших наборов данных

Модель обучается на изображениях льва, думая «Всё такой же пушистый, четыре лапы... понял!», и затем генерирует изображение льва

¹ Creative Commons Attribution-Share Alike 4.0, Bing image generator

Куда попадает ваша обратная связь?

Интерфейс чата Google Bard с выделенными кнопками обратной связи «палец вверх» и «палец вниз»

¹ Google Bard, 2023

Оценки помогают улучшать ответы

Несколько текстовых ответов с оценками «палец вверх» или «палец вниз» передаются роботу, который говорит: «Теперь я знаю, какие ответы нравятся людям»

¹ Google Bard, 2023

Эмбеддинги как отпечатки пальцев

Похожи на отпечаток пальца
Уникальные представления сущностей данных
Кодируют смысл, контекст и связи в компактном виде

Набор отпечатков пальцев

¹ Wikimedia commons

Эмбеддинг Дэна

Различные портретные фотографии Дэниела Тедеско, передаваемые в генеративный ИИ

¹ Daniel Tedesco, 2023

Встроенный Дэн

Модель генерирует стилизованные портреты Дэниела Тедеско

¹ Daniel Tedesco portraits from vana.com

Давайте потренируемся!

Концепции генеративного ИИ