Bias în algoritmi

Depășirea bias-ului în date

Konstantinos Kattidis

Data Analytics Lead

IA și bias în date

IA are numeroase cazuri de utilizare:

  • Recomandări personalizate
  • Navigare pe rute

 

Ce se întâmplă dacă algoritmii devin biasați față de anumite grupuri, precum genul sau rasa?

Cazuri de utilizare IA

Depășirea bias-ului în date

Bias algoritmic

Bias algoritmic

Biasul algoritmic apare atunci când algoritmii produc erori sistematice și repetabile care generează rezultate inechitabile, favorizând un grup în detrimentul altuia

  • Acesta include diverse tipuri de bias care pot apărea în timpul dezvoltării și implementării algoritmilor
Depășirea bias-ului în date

Bias în antrenarea algoritmului

  • Biasul algoritmic este adesea generat de bias în colectarea datelor
  • Dacă datele de antrenament nu sunt reprezentative sau sunt biasate, algoritmul poate învăța și perpetua aceste biasuri
  • De exemplu: lipsa unei reprezentări adecvate a grupurilor diverse într-un algoritm de recunoaștere facială

Bias de selecție

Depășirea bias-ului în date

Bias în selecția caracteristicilor

Bias în selecția caracteristicilor

  • Biasul în selecția caracteristicilor apare atunci când anumite caracteristici sunt alese pe baza unor criterii care pot duce la rezultate inechitabile sau discriminatorii
  • Astfel de caracteristici includ rasa, genul sau alte atribute protejate
  • De exemplu, un algoritm pentru predicția aprobării creditelor poate presupune că venitul este singurul factor relevant
Depășirea bias-ului în date

Bias de evaluare

  • Utilizarea unui set de date nereprezentativ în faza de testare a unui algoritm poate duce la bias de evaluare
  • De exemplu:
    • Un algoritm de recomandare a filmelor
    • Testarea performanței bazată pe un singur gen
    • Se ignoră faptul că poate funcționa slab pentru alte genuri, precum romance sau comedie

Bias de evaluare, testare pe un singur gen

Depășirea bias-ului în date

Bias de automatizare

Automatizarea diagnosticului prin RMN

Tendința de a se baza excesiv pe sistemele automate

  • De exemplu:
    • Un sistem de diagnostic medical este utilizat pentru analiza imaginilor medicale, precum RMN-urile
    • Biasul de automatizare apare atunci când rezultatele sistemului sunt acceptate fără revizuirea sau confirmarea concluziilor
    • Aceasta poate duce la diagnostice incorecte
Depășirea bias-ului în date

Să exersăm!

Depășirea bias-ului în date

Preparing Video For Download...