Chúng ta xử lý thiên lệch dữ liệu thế nào?

Nhập môn Đạo đức Dữ liệu

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Thiên lệch là gì?

Minh họa một phán xét thiên lệch.

  • Ý đầu tiên trong đạo đức dữ liệu
  • Định kiến, ủng hộ hoặc chống lại người/nhóm/ý tưởng — không công bằng
  • Đạo đức dữ liệu: thiên lệch dữ liệu
  • Thiếu, thừa hoặc sai đại diện
  • Gây hại khi dùng dữ liệu thiên lệch để ra quyết định
1 Icon made by noomtah from www.flaticon.com
Nhập môn Đạo đức Dữ liệu

Bất cứ lúc nào, ở đâu

  • Ở mọi giai đoạn của dữ liệu và vòng đời
  • Thu thập dữ liệu
  • Làm sạch, chuẩn bị, phát triển
  • Gán nhãn dữ liệu

Minh họa thiên lệch dữ liệu ở các giai đoạn vòng đời, dẫn đến thuật toán thiên lệch

Nhập môn Đạo đức Dữ liệu

Thiên lệch đặc thù dữ liệu

  • Thiên lệch kỹ thuật hoặc thống kê

    • Thiên lệch chọn mẫu: tính đại diện
    • Thiên lệch đo lường
    • Thiên lệch tự báo cáo
    • Thiên lệch gán nhãn

  • Thiên lệch con người và hệ thống

    • Giới
    • Sắc tộc/nhóm thiểu số
    • Văn hóa

Minh họa một vật bị lệch so với hình ảnh thực.

1 Icon made by Flowicon from www.flaticon.com
Nhập môn Đạo đức Dữ liệu

Đại diện là then chốt

Ảnh chụp bài TED Talk của Joy với bức ảnh cô đeo mặt nạ trắng

  • Thiếu dữ liệu đại diện
  • Nhận diện khuôn mặt: kết quả tốt hơn với mặt nạ trắng
  • Từ máy xịt xà phòng đến kết quả y tế
  • Gợi ý: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Nhập môn Đạo đức Dữ liệu

Tấm gương phản chiếu định kiến

Minh họa các triệu chứng nhồi máu cơ tim khác nhau: nam đau thắt ngực, nữ đau lưng.

  • Nghiên cứu và dữ liệu y khoa lịch sử chủ yếu trên nam giới da trắng
  • Ví dụ: Triệu chứng nhồi máu cơ tim khác nhau giữa nam và nữ
  • Điều gì xảy ra nếu ứng dụng chẩn đoán dùng dữ liệu này?
1 https://womeningh.org/
Nhập môn Đạo đức Dữ liệu

Tác động nghiêm trọng

Ảnh chụp kết quả chẩn đoán của ứng dụng y tế về triệu chứng nhồi máu cơ tim cho nam và nữ.

  • Triệu chứng nhồi máu cơ tim: cấp cứu cho nam, hoảng loạn cho nữ
Nhập môn Đạo đức Dữ liệu

Quá nhiều và còn tăng!

Minh họa các dạng thiên kiến nhận thức khác nhau.

1 CC BY, John Manoogian III (JM3)
Nhập môn Đạo đức Dữ liệu

Phần nổi của tảng băng

Minh họa tảng băng: phần nổi là thiên lệch thống kê, phần chìm là thiên lệch con người và hệ thống

  • Thiên lệch thống kê chỉ là phần nổi
  • Thiên lệch con người và hệ thống: cần thay đổi thái độ và xã hội
  • Kiểm tra, phòng ngừa, giảm thiểu; cởi mở tiếp nhận phản hồi
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Nhập môn Đạo đức Dữ liệu

Ayo berlatih!

Nhập môn Đạo đức Dữ liệu

Preparing Video For Download...