Evaluarea riscurilor IA
Strategie de Inteligență Artificială (AI)
Vidhi Chugh
AI strategist and ethicist
Limite etice de protecție
1 https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
Riscuri IA
Institutul Național de Standarde și Tehnologie (NIST)
- Probabilitatea de apariție
- Gradul consecințelor
1 https://www.nist.gov/artificial-intelligence
Riscuri legate de date
- Confidențialitatea datelor
- Informații sensibile
- Bias în date
- Perpetuarea bias-urilor sociale
IA defectuoasă
- Prejudecată de gen
- Discriminare rasială
Încălcarea confidențialității datelor
Implicații de afaceri
Juridic
Implicații de afaceri
Juridic, reputațional
Implicații de afaceri
Prejudicii juridice, reputaționale și financiare.
Cadre etice
Cadre etice
Cadre etice
Pilonii cheie ai evaluării riscurilor
Confidențialitate
Echitate
Transparență
Responsabilitate
Reglementări și conformitate
- Ciclul de viață al proiectului IA
Colectarea și pregătirea datelor
Evaluare
- Disponibil intern sau procurat extern?
- Informații sensibile, precum datele cu caracter personal (PII)?
- Populație bine reprezentată?
Reducere
- Procese pentru integritatea datelor
- Criptarea identificatorilor, generarea de date sintetice
- Crearea unor date echilibrate
Dezvoltarea și evaluarea modelului
Implementarea și monitorizarea modelului
Gradul de impact
Stabilirea strategiilor de reducere a riscurilor
Costul este ridicat în sănătate și finanțe
Realinierea comportamentului modelului
