Atenuarea prejudecăților

Gestionarea responsabilă a datelor în AI

Maria Prokofieva

Lead ML engineer

Vom aborda

• Strategii pe parcursul ciclului de viață al proiectului
• Re-eșantionare și re-ponderare
• Re-etichetare și eliminarea atributelor sensibile
• Antrenament adversarial și re-calibrarea modelului
• Comportamentul utilizatorilor
• Constrângeri de echitate și selecția algoritmilor
• Există și alte strategii

Prejudecăți - revenire

• Erori sistematice sau prejudecăți
• Rezultate inechitabile pentru grupuri sau persoane

¹ Imagine de Streamline HQ

Prejudecăți în proiect

• În datele brute
• În pre-procesare
• În modelare
• După implementare

Prejudecăți în pre-procesare

• Re-eșantionare
• Re-ponderare
• Re-etichetare
• Eliminarea atributelor sensibile

Strategii în pre-procesare

• Re-eșantionare:
  • Ajustarea distribuției pentru o reprezentare echilibrată a claselor
• Re-ponderare:
  • Corectarea prejudecăților cu ponderi de clasă, păstrând dimensiunea setului de date
• Re-etichetare:
  • Actualizarea etichetelor pentru o reprezentare corectă a țintei
• Eliminarea atributelor sensibile:
  • Eliminarea atributelor protejate

Prejudecăți în modelare

• Prejudecăți provenite din algoritm
• Antrenament adversarial
• Constrângeri de echitate
• Selectarea algoritmilor mai simpli, robuști sau generalizabili

Consilier financiar

• Prejudecăți legate de disparități economice regionale
• Antrenament adversarial pentru corectarea prejudecăților
• Arbori de decizie și modele liniare regularizate

¹ Imagine de Streamline HQ

Prejudecăți după implementare și în utilizare

• Monitorizarea prejudecăților pentru a preveni deriva modelului
• Re-calibrarea modelului
• Utilizare incorectă a aplicației

¹ Imagine de Streamline HQ

Consilier financiar

Deriva modelului:

• Economia freelance subreprezentată

Utilizare incorectă:

• Actualizarea informațiilor financiare

¹ Imagine de Streamline HQ

Să exersăm!

Gestionarea responsabilă a datelor în AI