Thiết kế mô hình và thu thập dữ liệu

Các khái niệm về Generative AI

Daniel Tedesco

Data Lead, Google

Biết cách đổ đầy bình

Đồng hồ nhiên liệu chỉ mức rỗng

Công nhân dây chuyền lắp mui xe

1 GM Fairfax Assembly Plant
Các khái niệm về Generative AI

Phát triển mô hình

Các bước phát triển mô hình

  1. Nghiên cứu và thiết kế
  2. Thu thập dữ liệu huấn luyện
  3. Huấn luyện mô hình
  4. Đánh giá mô hình
Các khái niệm về Generative AI

Nghiên cứu và phát triển của Stable Diffusion

Ví dụ đầu ra từ Stable Diffusion

Ảnh do người dùng tạo từ Stable Diffusion Beta

R&D của Stable Diffusion

  • Mục tiêu: Chọn cách tạo ảnh
  • Kiến trúc: Chốt mô hình khuếch tán
  • Tài nguyên: 256 GPU, 150k giờ, $600k
1 Stability AI, bài đăng Twitter của Emad Mostaque
Các khái niệm về Generative AI

Thu thập dữ liệu: không như mô hình ML điển hình

Chuẩn bị dữ liệu huấn luyện

  • Cần khối lượng rất lớn
  • Dữ liệu đa dạng, giàu ngữ cảnh
  • Cần tiền xử lý

Loạt ảnh mèo từ một bộ dữ liệu hình ảnh lớn.

1 Laion blog
Các khái niệm về Generative AI

Thu thập dữ liệu: quyền riêng tư và bảo mật là then chốt

 

Chuẩn bị dữ liệu huấn luyện

Thông tin nhận dạng cá nhân (PII)

  • Ẩn danh hoặc tổng hợp
  • Lưu trữ an toàn, kiểm soát truy cập

 

Hình ảnh với khuôn mặt bị làm mờ

Các khái niệm về Generative AI

Hãy thực hành!

Các khái niệm về Generative AI

Preparing Video For Download...