Utvärdera och minska social bias

Koncept inom generativ AI

Daniel Tedesco

Data Lead, Google

Vad menar vi med social bias?

$$ $$

Systematisk orättvisa i generativ AI

Allvarliga samhällskonsekvenser
Rättvisa kan vara subjektivt
Fokus på allmänt delade värderingar

$$ $$

En jobbintervju.

Var bias uppstår

Träningsdata
Modellen i sig
Hur modellen används

Obalanserade vågskanar

Bias i data

Sned eller icke-representativ information i träningsdatamängden

Två träningstrattrar. Den ena visar lila kvadrater som matas in i träningen och bara lila kvadrater som genereras. Den andra visar en variation av färgade former som matas in och en variation av former som genereras

Bias i modeller

Att eftersträva mål som leder till partiska utfall

Fotorealistisk robotpolitiker som håller tal i FN

Bias i användning

Att använda AI på felaktiga eller skadliga sätt

Laptop som visar en video med en stor "FEJK"-etikett på den.

Identifiera bias i data och modeller

Representationsanalys jämför hur modellen refererar till olika grupper
Rättvisemått utvärderar modeller för likabehandling, lika möjligheter och noggrannhet mellan grupper
Mänskliga granskningar låter verkliga personer granska modellens utdata för att identifiera bias

Minska bias i data och modeller

Diversifiera datainsamling
Justera modellen för att prioritera olika data
Adversariell träning
Kontinuerlig förbättring

En samling former i olika färger och ett representativt urval av dem

Nu kör vi en övning!

Koncept inom generativ AI