Typer av dataintegritet och bias

Att hantera databias

Konstantinos Kattidis

Data Analytics Lead

Beslutsfattandets dynamik

Person som bestämmer sig om middag och karriär

Vuxna fattar ungefär 35 000 medvetna beslut varje dag

"Vilken karriärväg ska jag välja?"

"Vad ska jag äta till middag?"

  • Heuristik hjälper hjärnan att förenkla informationsbearbetning och fatta beslut snabbare

  • MEN heuristik kan leda till... kognitiva biaser

1 https://hbr.org/2023/12/a-simple-way-to-make-better-decisions
Att hantera databias

Kognitiva biaser

Systematiska avvikelsemönster från normen eller rationaliteten i bedömningar och beslutsprocesser

  • Databias kan vara ett resultat av kognitiva biaser

  • Till exempel: en analytiker som omedvetet favoriserar positiva data vid analys av en marknadsföringskampanj

Analytiker som fokuserar på positiva data

Att hantera databias

Systemiska biaser

  • Kognitiva biaser gäller individuella beslutsprocesser, medan systemiska biaser pekar på bredare problem som påverkar datarelaterade aktiviteter
  • Det är biaser som är inbyggda i de processer, strukturer eller system som används för att samla in, analysera och tolka data
  • De uppstår av olika skäl, till exempel partiska datainsamlingsmetoder och algoritmisk design

Kvinna som funderar på systemiska biaser

Att hantera databias

Bias i datas livscykel

Diagram över datas livscykel och biaser

  • Systemiska och kognitiva biaser utgör ursprunget till databias
  • Att förstå de olika typerna av databias är det första steget mot att hantera deras påverkan
Att hantera databias

Biaser vid datainsamling

  • Urvalsbias
    • Insamlingsprocessen gynnar vissa grupper eller egenskaper framför andra
  • Historisk bias
    • Historiska data som speglar tidigare ojämlikheter eller systemiska problem
  • Mätbias
    • Instrument eller metoder som systematiskt misrepresenterar vissa egenskaper

Diagram över biaser i datas livscykel, datainsamling

Att hantera databias

Biaser vid dataanalys

  • Kognitiv bias
    • Konfirmationsbias är en framträdande typ
    • Det innebär en tendens att söka och tolka information som bekräftar redan befintliga uppfattningar
  • Rapporteringsbias
    • Uppstår när vissa resultat lyfts fram eller undanhålls, vilket påverkar hur data framställs

Diagram över biaser i datas livscykel, dataanalys

Att hantera databias

Bias vid modellutveckling

  • Algoritmisk bias

    • Uppstår när maskininlärningsmodeller återspeglar de biaser som finns i träningsdata

  • Automatiseringsbias

    • Betonar vikten av mänsklig tillsyn, eftersom automatiserade processer oavsiktligt kan förstärka befintliga biaser

Diagram över biaser i datas livscykel, algoritmer

Att hantera databias

Nu kör vi en övning!

Att hantera databias

Preparing Video For Download...