Hodnocení rizik AI

Strategie umělé inteligence (AI)

Vidhi Chugh

AI strategist and ethicist

Etická ochranná opatření

 

• UNESCO
  • Nutnost ochranných opatření
  • Prevence rizik jako předpojatost a diskriminace
  • Základní lidská práva

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Rizika AI

 

• Národní institut pro standardy a technologie (NIST)

  

 

• Pravděpodobnost výskytu
• Závažnost následků

¹ https://www.nist.gov/artificial-intelligence

Datová rizika

• Ochrana dat
  • Citlivé informace

• Předpojatost dat
  • Prohlubování společenských předsudků  

AI, která selhala

 

• Genderová předpojatost

 

• Rasová diskriminace

Porušení ochrany dat

• Vysoká pokuta za porušení GDPR
• Nezákonné zpracování dat
• Scrapování obrázků pro rozpoznávání obličejů

 

Dopady na podnikání

Právní

Dopady na podnikání

Právní, reputační

Dopady na podnikání

Právní, reputační a finanční újmy.

Etické rámce

Etické rámce

Etické rámce

Klíčové pilíře hodnocení rizik

                Soukromí

                Spravedlnost

             Transparentnost

             Odpovědnost

Regulace a soulad s předpisy

• Životní cyklus projektu AI

• Regulace a soulad s předpisy
  • Odpovědnost vyžaduje správu
  • Definování rolí a odpovědností
  • Soulad s předpisy o ochraně dat
  • Získání souhlasu uživatelů a anonymizace dat

Sběr a příprava dat

Posouzení

• Interní zdroj nebo externí zajištění?
• Citlivé informace, např. osobní identifikační údaje (PII)?
• Dostatečně reprezentativní populace?

Zmírnění

• Procesy pro integritu dat
• Šifrování identifikátorů, generování syntetických dat
• Vytvoření vyvážených dat

Vývoj a hodnocení modelu

• Vysvětlení výstupů modelu
  • Vysvětlitelnost a identifikace předpojatosti
  • Spravedlivé zacházení napříč kategoriemi

Nasazení a monitorování modelu

 

• Míra dopadu

• Stanovení strategií zmírnění

 

 

• Vysoké náklady ve zdravotnictví a financích

• Nastavení chování modelu

 

Pojďme si procvičit!

Strategie umělé inteligence (AI)