Ra quyết định tự động và lập hồ sơ
Hiểu về GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Điều 22
- Nghĩa vụ công bằng và chống phân biệt đối xử
- Điều 22 — quyết định cá nhân tự động, kể cả lập hồ sơ
- Quyền được con người can thiệp và được giải thích
1 Nguồn ảnh: flaticon.com
Lập hồ sơ
- Phân tích và dự đoán hành vi, xử lý quy mô lớn, dùng AI/học máy
- Nhận diện và liên kết hành vi và thuộc tính
- Tạo hồ sơ và dự đoán hành vi dựa trên hồ sơ
- Ví dụ:
- Khả năng điều trị thành công
- Nguy cơ tái phạm
1 Văn phòng Ủy viên Thông tin (ICO)
Quan ngại đạo đức về lập hồ sơ
- Lan truyền hoặc củng cố thiên lệch
- Thiết kế, dữ liệu, tính phức tạp vốn có/hộp đen
- Phân biệt giới, chủng tộc
1 Nguồn ảnh: bbc.com, propublica.com và techcrunch.com
Ví dụ lập hồ sơ nổi tiếng
- 320.000 người dùng làm bài test tính cách trực tuyến cho “nghiên cứu học thuật”
- Thu thập dữ liệu cá nhân của bạn bè người dùng, tới 50 triệu hồ sơ mà không có đồng ý
- Lập hồ sơ tính cách/chính trị, quảng cáo nhắm mục tiêu tới người dễ đổi ý
- Dùng trong nhiều cuộc bầu cử ở Mỹ, Anh và toàn cầu
1 Nguồn ảnh: The Guardian
Ra quyết định tự động
- Quyết định bằng phương tiện tự động, không có con người tham gia
- Có thể có hoặc không có lập hồ sơ
- Mọi loại dữ liệu: khảo sát, vị trí, lập hồ sơ
- Ví dụ: Sàng lọc CV tự động
1 TỔ CÔNG TÁC ĐIỀU 29 Hướng dẫn về Quyết định cá nhân tự động và Lập hồ sơ theo Quy định 2016/679
Ví dụ ngân hàng
- Quyết định thế chấp tự động
- Thường AI trả lời có/không; cần giải thích và có can thiệp của con người
- Cơ chế ngăn thiên lệch, sửa và cải thiện quyết định của AI
