Huấn luyện mô hình

Các khái niệm về Generative AI

Daniel Tedesco

Data Lead, Google

Chọn phương tiện huấn luyện

Hình chiếc máy bay và ô tô.

  1. Phần cứng
  2. Thời gian
    • Kích thước dữ liệu
    • Độ phức tạp mô hình
    • Số vòng huấn luyện
  3. Chi phí
Các khái niệm về Generative AI

Tiến lên kỹ thuật nâng cao

  • Mô hình nền tảng tạo sinh là bước đầu
  • Kỹ thuật nâng cao giúp chuyên biệt theo ngữ cảnh

Kỹ thuật chính:

  1. Học chuyển giao và fine-tuning
  2. RLHF
  3. Embedding tuỳ chỉnh

Ảnh sinh viên tốt nghiệp

Các khái niệm về Generative AI

Từ mèo đến sư tử

  • Học chuyển giao: chuyển tri thức giữa nhiệm vụ
  • Fine-tuning: dạng học chuyển giao cho tập dữ liệu nhỏ

Mô hình học từ ảnh sư tử, nói "Vẫn lông lá, bốn chân... hiểu rồi!", rồi tạo ảnh sư tử

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
Các khái niệm về Generative AI

Phản hồi của bạn đi đâu?

Ảnh giao diện Google Bard với tùy chọn phản hồi 'thích' và 'không thích' được tô sáng

1 Google Bard, 2023
Các khái niệm về Generative AI

Nhấn thích để có phản hồi tốt hơn

Nhiều câu trả lời được chấm thích/không thích chuyển tới một robot nói: "Giờ tôi biết con người thích kiểu trả lời nào rồi"

1 Google Bard, 2023
Các khái niệm về Generative AI

Embedding như vân tay

  • Tương tự nhận diện vân tay
  • Biểu diễn duy nhất cho thực thể dữ liệu
  • Gói gọn nghĩa, ngữ cảnh, quan hệ ở dạng nén

Một loạt dấu vân tay

1 Wikimedia commons
Các khái niệm về Generative AI

Embedding Dan

Nhiều ảnh chân dung Daniel Tedesco được đưa vào một AI sinh sinh

1 Daniel Tedesco, 2023
Các khái niệm về Generative AI

Dan đã được embedding

Mô hình tạo ra nhiều ảnh chân dung Daniel Tedesco theo phong cách khác nhau

1 Chân dung Daniel Tedesco từ vana.com
Các khái niệm về Generative AI

Ayo berlatih!

Các khái niệm về Generative AI

Preparing Video For Download...