Bias i algoritmer

Att hantera databias

Konstantinos Kattidis

Data Analytics Lead

AI och databias

AI har många användningsområden:

Personliga rekommendationer
Ruttnavigering

Vad händer om algoritmer blir partiska mot vissa grupper, till exempel baserat på kön eller etnicitet?

AI-användningsområden

Algoritmisk bias

Algoritmisk bias uppstår när algoritmer producerar systematiska och upprepningsbara fel som leder till orättvisa utfall och gynnar en grupp framför en annan

Det omfattar olika typer av bias som kan uppstå under utveckling och driftsättning av algoritmer

Bias under algoritmträning

Algoritmisk bias uppstår ofta genom bias i datainsamlingen
Om träningsdatan inte är representativ eller är partisk kan algoritmen lära sig och förstärka dessa snedvridningar
Till exempel: otillräcklig representation av olika grupper i en ansiktsigenkänningsalgoritm

Urvalsbias

Bias vid särdragsurval

Bias vid särdragsurval uppstår när särdrag väljs ut utifrån kriterier som kan leda till orättvisa eller diskriminerande utfall
Exempel på sådana särdrag är etnicitet, kön eller andra skyddade egenskaper
Till exempel kan en algoritm för kreditbedömning anta att inkomst är den enda relevanta faktorn

Utvärderingsbias

Att använda en icke-representativ datamängd under testfasen kan leda till utvärderingsbias
Till exempel:
- En filmrekommendationsalgoritm
- Prestanda testas enbart på en genre
- Man missar att den kanske fungerar sämre för andra genrer, som romantik eller komedi

Utvärderingsbias, testning av enbart en genre

Automatiseringsbias

Automatiserad MRI-diagnostik

Tendensen att förlita sig alltför mycket på automatiserade system

Till exempel:
- Ett medicinskt diagnossystem används för att analysera medicinska bilder, exempelvis MRT
- Automatiseringsbias uppstår om systemets resultat godtas utan granskning eller bekräftelse av fynden
- Det kan leda till felaktiga diagnoser

Nu kör vi en övning!

Att hantera databias