Đạo đức dữ liệu và đạo đức AI

Nhập môn Đạo đức Dữ liệu

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

AI là gì?

Minh họa AI với dữ liệu đầu vào và quyết định của mô hình.

  • AI kết hợp thuật toán và bộ dữ liệu vững để giải quyết vấn đề
  • AI mạnh dùng bộ dữ liệu lớn
  • Tiềm năng lớn, con dao hai lưỡi, cần cân nhắc đạo đức
Nhập môn Đạo đức Dữ liệu

Dữ liệu là nhiên liệu cho AI

Minh họa tầm quan trọng của dữ liệu cho AI với phép ẩn dụ nấu ăn.

  • Mô hình AI cần lượng dữ liệu rất lớn, phần lớn công sức dành cho dữ liệu
  • Dữ liệu kém dẫn tới kết quả AI kém
  • Đạo đức AI rộng hơn đạo đức dữ liệu; cần hiểu điểm giống và khác
1 Nguồn ảnh: hội thảo của Andrew Ng, MLOps: From Model-centric to Data-centric AI
Nhập môn Đạo đức Dữ liệu

Điều tốt và điều ấn tượng

Ghép ảnh loa trợ lý giọng nói, ảnh chụp chatgpt và trang chủ Netflix.

  • Trợ lý giọng nói, AI hội thoại
  • Gợi ý phim

Ảnh X-quang vú với hai khối u ở các giai đoạn khác nhau

  • AI vì cộng đồng
  • Chẩn đoán ung thư sớm
  • Nông nghiệp chính xác - giảm nước & thuốc trừ sâu
Nhập môn Đạo đức Dữ liệu

Mặt xấu và mặt tồi tệ

Ghép ảnh các bản tin về thuật toán AI phân biệt đối xử

  • Phân biệt trong tuyển dụng, tiếp cận y tế, và xét xử công bằng
  • Nhiều nguyên nhân: bộ dữ liệu thiên lệch, mô hình AI phức tạp và hộp đen, thiếu giải thích
  • Đạo đức AI vượt ra ngoài đạo đức dữ liệu
Nhập môn Đạo đức Dữ liệu

Tình huống nan giải về đạo đức AI

Đạo đức AI vượt ra ngoài đạo đức dữ liệu

  • Hệ quả khi AI ra quyết định:
    • Truy cập tín dụng/khoản vay
    • Tuyển dụng
  • Phân biệt đối xử bởi AI
  • AI/robot thay thế việc làm
  • Robot/máy bay không người lái có giảm thương vong trong chiến tranh?
  • Thế nào là con người?
  • Có thể mã hóa đạo đức vào AI không?

Biển chỉ đường rẽ hai hướng với nền núi.

1 Nguồn ảnh: unsplash.com
Nhập môn Đạo đức Dữ liệu

AI nên làm gì?

  • Xe tự lái bị hỏng phanh đột ngột
  • Đi thẳng hay đánh lái
  • Đi thẳng sẽ khiến một phụ nữ, một người đàn ông và một phụ nữ lớn tuổi tử vong
  • Đánh lái sẽ khiến một phụ nữ trẻ và hai trẻ em tử vong
  • Ai chịu trách nhiệm?

Minh họa tình huống đạo đức của xe tự lái

1 https://moralmachine.mit.edu/
Nhập môn Đạo đức Dữ liệu

Tóm lược hướng dẫn đạo đức AI

Nhiều tổ chức và cơ quan xây dựng hướng dẫn đạo đức AI

  • Quyền chủ thể và giám sát của con người
  • Vững chắc kỹ thuật và an toàn
  • Quyền riêng tư và quản trị dữ liệu
  • Minh bạch
  • Đa dạng, không phân biệt đối xử và công bằng
  • Phúc lợi môi trường và xã hội
  • Trách nhiệm giải trình

Hình ảnh kho dữ liệu hướng dẫn đạo đức AI của AlgorithmWatch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Nhập môn Đạo đức Dữ liệu

Phần giao của dữ liệu

  • Quyền riêng tư, an ninh, bảo vệ dữ liệu
  • Thiên lệch và công bằng
  • Minh bạch
  • Trách nhiệm giải trình

Minh họa phần giao nhau giữa đạo đức dữ liệu và đạo đức AI

Nhập môn Đạo đức Dữ liệu

Ayo berlatih!

Nhập môn Đạo đức Dữ liệu

Preparing Video For Download...