Đánh giá và giảm thiểu thiên kiến xã hội

Các khái niệm về Generative AI

Daniel Tedesco

Data Lead, Google

Thiên kiến xã hội là gì?

$$ $$

Sự bất công có hệ thống trong AI sinh sinh

  • Hệ quả xã hội nghiêm trọng
  • Công bằng có thể mang tính chủ quan
  • Tập trung vào các giá trị được chia sẻ rộng rãi

$$ $$

Một cuộc phỏng vấn xin việc.

Các khái niệm về Generative AI

Thiên kiến xuất hiện ở đâu

  • Dữ liệu huấn luyện
  • Bản thân mô hình
  • Cách sử dụng mô hình

Cân đĩa mất cân bằng

Các khái niệm về Generative AI

Thiên kiến trong dữ liệu

Thông tin lệch hoặc không đại diện trong tập dữ liệu huấn luyện

Hai phễu huấn luyện. Một phễu chỉ có ô vuông tím đi vào và chỉ sinh ra ô vuông tím. Phễu kia có nhiều hình nhiều màu đi vào và sinh ra đa dạng hình.

Các khái niệm về Generative AI

Thiên kiến trong mô hình

Theo đuổi mục tiêu dẫn đến kết quả thiên lệch

Chính trị gia rô-bốt chân thực đang phát biểu tại LHQ

Các khái niệm về Generative AI

Thiên kiến trong cách sử dụng

Ứng dụng AI sai hoặc ác ý

Máy tính xách tay hiển thị video với nhãn "FAKE" lớn.

Các khái niệm về Generative AI

Nhận diện thiên kiến trong dữ liệu và mô hình

  • Phân tích đại diện so sánh cách mô hình nhắc đến các nhóm khác nhau
  • Chỉ số công bằng đánh giá đối xử, cơ hội và độ chính xác ngang nhau giữa các nhóm
  • Đánh giá thủ công nhờ con người rà soát đầu ra để phát hiện thiên kiến
Các khái niệm về Generative AI

Giảm thiểu thiên kiến trong dữ liệu và mô hình

 

  • Đa dạng hóa thu thập dữ liệu
  • Điều chỉnh mô hình để ưu tiên dữ liệu khác nhau
  • Huấn luyện đối nghịch
  • Cải tiến liên tục

Một tập hợp các hình nhiều màu và mẫu đại diện được chọn

Các khái niệm về Generative AI

Ayo berlatih!

Các khái niệm về Generative AI

Preparing Video For Download...