Provocările IA responsabile

Gestionarea responsabilă a datelor în AI

Maria Prokofieva

Lead ML Engineer

Practici responsabile de gestionare a datelor în lumea reală

Complex

Implică compromisuri

Judecată profesională

IA responsabilă: cerc albastru cu o mână care ține o ilustrație a unui cip AI

Compromisuri frecvente

Compromisuri

Dimensiuni ale IA responsabile

Factori de afaceri

Profit în detrimentul echității și confidențialității
Venituri în detrimentul testării și securității

Modele pre-antrenate

Reducerea costurilor
Economisirea timpului și a resurselor
Nu necesită colectare de date și antrenare
Pot conține date de antrenare biasate
Lipsă de transparență

Modele pre-antrenate

Utilizarea modelelor pre-antrenate

Verificarea sursei modelului
Reputație bună
Credibilitate
Revizuirea documentației modelului
Teste suplimentare de echitate și bias

Compromis între metrici

Acuratețe în detrimentul echității
Chiar și în seturi de date echilibrate

Compromisuri privind acuratețea

Acuratețe mai scăzută pentru anumite grupuri
Ignorarea calității și cantității datelor pentru grupuri subreprezentate
Confidențialitatea reduce acuratețea

Recunoaștere facială

Compromisuri privind robustețea

Compromis între metrici

Robustețe versus bias
Robustețe versus echitate

Conduită profesională și obligații de diligență

Cod de etică și conduită
Orientările variază în funcție de țară și organizație
Responsabilitate, non-vătămare, echitate
Confidențialitatea utilizatorilor
Impact pozitiv asupra societății
Menținerea unor standarde ridicate
Dezvoltarea de sisteme robuste și sigure
Incluziv și nediscriminatoriu

ACM

¹ https://www.acm.org/code-of-ethics

Să exersăm!

Gestionarea responsabilă a datelor în AI

Preparing Video For Download...