Thiên lệch trong thuật toán

Chinh phục thiên lệch dữ liệu

Konstantinos Kattidis

Data Analytics Lead

AI và thiên lệch dữ liệu

AI có nhiều trường hợp sử dụng:

Gợi ý cá nhân hóa
Dẫn đường tuyến đường

Điều gì xảy ra nếu thuật toán thiên lệch với một số nhóm, như giới tính hoặc chủng tộc?

Các trường hợp sử dụng AI

Thiên lệch thuật toán

Thiên lệch thuật toán xuất hiện khi thuật toán tạo ra lỗi hệ thống và lặp lại, dẫn đến kết quả không công bằng, thiên vị nhóm này so với nhóm khác

Bao gồm nhiều loại thiên lệch có thể nảy sinh khi phát triển và triển khai thuật toán

Thiên lệch khi huấn luyện thuật toán

Thiên lệch thuật toán thường bắt đầu từ thiên lệch trong thu thập dữ liệu
Nếu dữ liệu huấn luyện không đại diện hoặc bị thiên lệch, thuật toán có thể học và duy trì các thiên lệch đó
Ví dụ: thiếu đại diện đầy đủ cho các nhóm đa dạng trong thuật toán nhận diện khuôn mặt

Thiên lệch chọn mẫu

Thiên lệch trong chọn đặc trưng

Thiên lệch chọn đặc trưng

Thiên lệch chọn đặc trưng xảy ra khi chọn đặc trưng dựa trên tiêu chí có thể dẫn tới kết quả không công bằng hoặc phân biệt đối xử
Ví dụ về đặc trưng: chủng tộc, giới tính, hoặc các thuộc tính được bảo vệ khác
Ví dụ, một thuật toán dự đoán phê duyệt khoản vay có thể giả định thu nhập là yếu tố duy nhất liên quan

Thiên lệch đánh giá

Dùng bộ dữ liệu không đại diện trong giai đoạn kiểm thử có thể gây thiên lệch đánh giá
Ví dụ:
- Một thuật toán gợi ý phim
- Chỉ kiểm thử hiệu năng trên một thể loại
- Bỏ sót việc nó có thể hoạt động kém với thể loại khác như lãng mạn hoặc hài

Thiên lệch đánh giá, chỉ kiểm thử một nhóm thể loại

Thiên lệch tự động hóa

Tự động hóa chẩn đoán MRI

Xu hướng con người dựa dẫm quá mức vào hệ thống tự động

Ví dụ:
- Hệ thống chẩn đoán y khoa dùng để phân tích ảnh y tế như MRI
- Thiên lệch tự động hóa xảy ra khi tin kết quả mà không rà soát hay xác nhận
- Có thể dẫn đến chẩn đoán sai

Ayo berlatih!

Chinh phục thiên lệch dữ liệu