Utmaningar med ansvarsfull AI

Ansvarsfull AI-datahantering

Maria Prokofieva

Lead ML Engineer

Ansvarsfull datahantering i praktiken

 

  • Komplex

 

  • Innebär avvägningar

 

  • Professionellt omdöme

Ansvarsfull AI: blå cirkel med en hand som håller ett AI-chip

Ansvarsfull AI-datahantering

Vanliga avvägningar

 

Avvägningar

Dimensioner inom ansvarsfull AI

Ansvarsfull AI-datahantering

 

Affärsfaktorer

 

  • Vinst framför rättvisa och integritet

  • Intäkter framför testning och säkerhet

Ansvarsfull AI-datahantering

Förtränade modeller

  • Minskar kostnader

  • Sparar tid och resurser

  • Ingen insamling av data eller träning krävs

  • Kan innehålla biasad träningsdata

  • Saknar transparens

Förtränade modeller

Ansvarsfull AI-datahantering

Använda förtränade modeller

  • Noggrann granskning av modellkällan
  • Gott rykte
  • Trovärdighet
  • Granska modelldokumentation
  • Kompletterande tester för rättvisa och bias
Ansvarsfull AI-datahantering

 

Avvägning av mätvärden

 

  • Noggrannhet framför rättvisa
  • Även i balanserade datamängder
Ansvarsfull AI-datahantering

Avvägningar kring noggrannhet

  • Lägre noggrannhet för specifika grupper
  • Hänsyn tas ej till datakvalitet eller -mängd för underrepresenterade grupper
  • Integritetsskydd minskar noggrannheten

Ansiktsigenkänning

Ansvarsfull AI-datahantering

Avvägningar kring robusthet

Avvägning av mätvärden

 

  • Robusthet kontra bias

  • Robusthet kontra rättvisa

Ansvarsfull AI-datahantering

Professionellt uppförande och omsorgsplikt

  • Etik- och uppförandekod

  • Riktlinjer varierar mellan länder och organisationer

  • Ansvar, icke-skada, rättvisa

  • Användarintegritet och konfidentialitet
  • Positiv påverkan på samhället
  • Upprätthåll höga standarder
  • Utveckla robusta och säkra system
  • Inkluderande och icke-diskriminerande

 

ACM

1 https://www.acm.org/code-of-ethics
Ansvarsfull AI-datahantering

Nu kör vi en övning!

Ansvarsfull AI-datahantering

Preparing Video For Download...