Ansvarsfulla datadimensioner

Ansvarsfull AI-datahantering

Maria Prokofieva

Lead ML Engineer

Ansvarsfull datahantering

  • Etisk datahantering
  • Utvärdera modeller med tekniska mätvärden
  • Ansvarsfull AI

Ansvarsfulla datadimensioner

Ansvarsfull AI-datahantering

Den här kursen

  • Introduktion till ansvarsfulla AI-dimensioner och mätvärden
  • Tillämpa begrepp i verkliga sammanhang
  • Översikt av reglering och licensiering
  • Datastyrning och datainsamling
  • Validering och åtgärdande av bias
Ansvarsfull AI-datahantering

Laglighet

  • Efterlevnad av lagar och regler
  • Säkerställer att data samlas in, behandlas och används korrekt
  • Relevanta lagar och regler inkluderar:
    • Dataskyddslagar
    • Mänskliga rättighetslagar
    • Etiska regler gentemot intressenter
    • Kan variera beroende på tillsynsorgan eller land

Kontrollera alltid vad som gäller!

Ansvarsfulla datadimensioner: laglighet

Ansvarsfull AI-datahantering

Rättvisa

  • Algoritmer och datapraxis skapar inte ojämlikheter
  • Behandla alla rättvist, utan diskriminering

Ansvarsfulla datadimensioner: rättvisa

Ansvarsfull AI-datahantering

Transparens och ansvar

  • Hur data används
  • Hur modellen utvecklas
  • Hur beslut fattas
  • Förklara AI:n
  • Bygga förtroende hos intressenter

Ansvarsfulla datadimensioner: transparens och ansvar

Ansvarsfull AI-datahantering

Mångfald och inkludering

  • Datamångfald
  • Varierande perspektiv och erfarenheter
  • Viktigt för att motverka bias

Ansvarsfulla datadimensioner: mångfald och inkludering

Ansvarsfull AI-datahantering

Integritet och säkerhet

  • Skydd av personliga och känsliga uppgifter
  • Respekt för och skydd av individuella rättigheter
  • Skydda data och modeller från obehörig åtkomst

Ansvarsfulla datadimensioner: integritet och säkerhet

Ansvarsfull AI-datahantering

Amazons AI-rekryteringsverktyg

  • Amazon: 2015–2017
  • Automatiserad talangrekrytering
  • Använde AI för att betygsätta jobbsökande
  • Ledde till skandal och att initiativet lades ned

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Ansvarsfull AI-datahantering

Utmaningar med AI-modeller

Vad gick fel?

  • Inte könsneutralt
  • Obalanserad träningsdata
  • Använde enbart tekniska mätvärden för AI-utvärdering

obalanserad data

Ansvarsfull AI-datahantering

Nu kör vi en övning!

Ansvarsfull AI-datahantering

Preparing Video For Download...