Att förstå datadilemmats natur

Att hantera databias

Konstantinos Kattidis

Data Analytics Lead

Data som grund för beslutsfattning

Datadriven beslutsfattning har revolutionerat branscher världen över
Användningen av data och AI har spridit sig till kritiska områden som:
- Social rättvisa
- Rekryteringsprocesser
- Interaktiva gränssnitt som virtuella assistenter

Användningsområden för datadriven beslutsfattning

Databias uppkomst

Parallellt med dessa framsteg har oro växt fram kring förekomsten av bias i dessa lösningar.

CV-granskning

Amazon lade ned sin modell för bedömning av jobbkandidater eftersom den gynnade manliga sökande

Vad är databias?

Det uppstår när data är begränsad och ger en felaktig eller orättvis bild av populationen
Det beror på olika faktorer, till exempel:
- Obalans och underrepresentation
- Historiska fördomar
- Kognitiva tendenser
Det undergräver datans noggrannhet och tillförlitlighet, vilket minskar dess användbarhet i beslutsfattning

Databias ursprung

Amazonfallet

Amazons modell tränades på CV:n som skickats in under 10 år.
Under den perioden anställdes eller prioriterades manliga kandidater i oproportionerligt hög grad.
Modellen fick en slagsida mot manliga kandidater till följd av historiska rekryteringsmönster.
Att hantera databias kräver granskning av både datamängdens kvalitet och de mänskliga processer som ingår.

Amazonlådor och CV-granskning

Om kursen

Hantera bias

Kapitel 1 – Lär dig om databias påverkan på beslutsfattning och varför det är viktigt att beakta databias när du arbetar med data.

Kapitel 2 – Utforska olika typer av databias vid datainsamling och lär dig tekniker för att minimera dem.

Kapitel 3 – Lär dig om de typer av databias som ofta förekommer vid dataanalys och när analysresultat delas. Vi går igenom hur du identifierar och motverkar bias.

Nu kör vi en övning!

Att hantera databias