Cân nhắc đạo đức trong ra quyết định

Giải mã Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Trách nhiệm của Khoa học Dữ liệu

  • Khoa học dữ liệu hỗ trợ quyết định trên nhiều lĩnh vực

  • Sử dụng có đạo đức là thiết yếu cho niềm tin và công bằng

  đạo đức.png

Giải mã Decision Science

Nghiên cứu tình huống: Optum

  • Thuật toán của Optum vô tình ưu tiên bệnh nhân khỏe hơn

    • Dùng để dự đoán nhu cầu chăm sóc, nhưng ưu tiên người có chi tiêu y tế cao hơn

  • Thiên lệch do giả định dữ liệu sai

    • Dùng chi tiêu làm đại diện cho nhu cầu gây chênh lệch sắc tộc, bất lợi cho người ít tiếp cận dịch vụ

  optum.png

Giải mã Decision Science

Công bằng

công bằng.png

Quyền riêng tư và bảo mật

quyền riêng tư.png

Minh bạch và tái lập

minh bạch.png

Tác động xã hội của dữ liệu

tác động xã hội.png

Giải mã Decision Science

Thiên lệch trong mô hình máy học

  dữ liệu thiên lệch.png

Thiên lệch vào = Thiên lệch ra

  • Mô hình máy học phản ánh thiên lệch và thiếu hụt của dữ liệu huấn luyện

 

Có thể đo lường tính công bằng

  • Đánh giá hiệu suất theo các nhóm khác nhau để kiểm tra công bằng
Giải mã Decision Science

Bảo vệ dữ liệu

Nhà khoa học quyết định và tổ chức phải xử lý dữ liệu an toàn, có trách nhiệm

Bao gồm:

  • Hạ tầng an toàn, cập nhật bảo vệ
  • Hạn chế truy cập: mỗi vai trò chỉ dùng dữ liệu tối thiểu cần thiết
  • Thu thập dữ liệu cá nhân dựa trên đồng thuận

Vì sao quan trọng:

  • Rò rỉ làm giảm niềm tin
  • Có thể dẫn tới kiện tụng
  • Gây hại danh tiếng và lợi nhuận

bảo vệ dữ liệu.png

Giải mã Decision Science

Minh bạch

 

Đảm bảo rõ ràng và trách nhiệm

  • Báo cáo nguồn dữ liệu, bước làm sạch, phương pháp phân tích, chỉ số thu thập và mức độ bất định

Tái lập

 

Tái lập tạo dựng niềm tin và uy tín

  • Người khác có thể lặp lại phân tích với cùng dữ liệu và phương pháp để ra cùng kết quả
Giải mã Decision Science

Đạo đức ở trung tâm khoa học ra quyết định

Cân nhắc đạo đức là cốt lõi của khoa học ra quyết định có trách nhiệm

  • Đạo đức không tùy chọn — là bắt buộc
  • Ưu tiên công bằng, công lý và lợi ích
  • Áp dụng nguyên tắc đạo đức xuyên suốt vòng đời dữ liệu

tổng quan đạo đức.png

Giải mã Decision Science

Ayo berlatih!

Giải mã Decision Science

Preparing Video For Download...