Chỉ số AI có trách nhiệm

Quản lý Dữ liệu AI Có Trách Nhiệm

Maria Prokofieva

Lead ML Engineer

Vòng đời dự án AI

vòng đời

Dự án AI có trách nhiệm

Tuân thủ pháp lý
Công bằng và đa dạng
Thực hành minh bạch, trách nhiệm giải trình, bảo mật

Công bằng mô hình:

Công bằng, không thiên lệch, và kết quả công bằng cho mọi người

vòng đời

Đặc điểm được bảo vệ

Nhóm dễ bị đối xử bất công và phân biệt đối xử
Xác định bởi các đặc điểm được bảo vệ:
- Chủng tộc
- Sắc tộc
- Giới tính
- Bối cảnh kinh tế - xã hội

Một nhóm người

Thu thập dữ liệu

Kết quả ngang bằng
Chênh lệch nhân khẩu
Luật và quy định

Người xem xét tài liệu

AI trong nhận diện khuôn mặt

Độ chính xác cao

NHƯNG

Bỏ sót một số sắc tộc hoặc giới tính

VÌ SAO...

Thiếu:

Dữ liệu sẵn có
Đa dạng
Đại diện

khuôn mặt

Kết quả ngang bằng và chênh lệch nhân khẩu

Kết quả ngang bằng: lợi ích ngang nhau giữa các nhóm

Chênh lệch nhân khẩu có điều kiện: khác biệt giữa các nhóm

Dùng thống kê mô tả và phân phối để đánh giá đa dạng dữ liệu
Biện pháp hiệu chỉnh: trọng số và cân bằng
Rà soát lại sau khi mô hình hóa
Ghi lại các kiểm thử

Công bằng

Mô hình hóa

Hiệu năng ngang bằng

Ví dụ chẩn đoán y khoa:

Một số bệnh phổ biến hơn ở nhóm được bảo vệ

Đánh giá âm tính giả, dương tính giả, và độ chính xác
Giải thích mô hình:
- Local Interpretable Model-agnostic Explanation (LIME)
- Shapley Additive Explanation (SHAP)

Hồng tâm với các phát bắn trượt mục tiêu

Triển khai và giám sát

Trôi dạt mô hình:
- Hiệu năng thay đổi theo thời gian

Giám sát phân phối
Chỉ số hiệu năng kỹ thuật
Điều chỉnh mô hình
Luôn ghi chép!

Áp dụng chỉ số

Hiểu các đặc điểm được bảo vệ
Còn nhiều chỉ số khác!
Luôn tham vấn chuyên gia pháp lý và lĩnh vực phù hợp
Thực hiện kiểm tra quyền riêng tư và bảo mật

Các chiều dữ liệu có trách nhiệm

Ayo berlatih!

Quản lý Dữ liệu AI Có Trách Nhiệm

Preparing Video For Download...