Dimensiunile datelor responsabile

Gestionarea responsabilă a datelor în AI

Maria Prokofieva

Lead ML Engineer

Gestionarea responsabilă a datelor

  • Gestionarea etică a datelor
  • Evaluarea modelelor cu metrici tehnice
  • IA responsabilă

Dimensiunile datelor responsabile

Gestionarea responsabilă a datelor în AI

În acest curs

  • Introducerea dimensiunilor și metricilor IA responsabile
  • Aplicarea conceptelor în lumea reală
  • Prezentare generală a reglementărilor și licențelor
  • Guvernanța și achiziția datelor
  • Validare și reducerea părtinirii
Gestionarea responsabilă a datelor în AI

Legalitate

  • Conformitatea cu legile și reglementările
  • Asigură colectarea, procesarea și utilizarea corectă a datelor
  • Unele legi și reglementări includ:
    • Legi privind protecția datelor
    • Legi privind drepturile omului
    • Reglementări etice față de părțile interesate
    • Pot varia în funcție de autoritatea sau țara competentă

Verificați întotdeauna ce se aplică!

Dimensiunile datelor responsabile: legalitate

Gestionarea responsabilă a datelor în AI

Echitate

  • Algoritmii și practicile de date nu creează inegalități
  • Tratarea tuturor în mod echitabil, fără discriminare

Dimensiunile datelor responsabile: echitate

Gestionarea responsabilă a datelor în AI

Transparență și responsabilitate

  • Cum sunt utilizate datele
  • Cum este dezvoltat modelul
  • Cum sunt luate deciziile
  • Explicarea IA
  • Construirea încrederii părților interesate

Dimensiunile datelor responsabile: transparență și responsabilitate

Gestionarea responsabilă a datelor în AI

Diversitate și incluziune

  • Diversitatea datelor
  • Perspective și experiențe diverse
  • Esențială pentru reducerea părtinirilor

Dimensiunile datelor responsabile: diversitate și incluziune

Gestionarea responsabilă a datelor în AI

Confidențialitate și securitate

  • Protejarea datelor personale și sensibile
  • Respectarea și protejarea drepturilor individuale
  • Protecția datelor și modelelor împotriva accesului neautorizat

Dimensiunile datelor responsabile: confidențialitate și securitate

Gestionarea responsabilă a datelor în AI

Instrumentul IA de recrutare Amazon

  • Amazon: 2015-2017
  • Achiziție automată de talente
  • Utilizarea IA pentru evaluarea candidaților
  • A dus la scandal și abandonarea inițiativei

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Gestionarea responsabilă a datelor în AI

Provocările modelelor IA

Ce a mers greșit?

  • Lipsă de neutralitate de gen
  • Date de antrenare dezechilibrate
  • Evaluarea IA bazată doar pe metrici tehnice

date dezechilibrate

Gestionarea responsabilă a datelor în AI

Să exersăm!

Gestionarea responsabilă a datelor în AI

Preparing Video For Download...