Beoordelen en beperken van sociale bias

Generatieve AI-concepten

Daniel Tedesco

Data Lead, Google

Wat bedoelen we met sociale bias?

$$ $$

Systematische oneerlijkheid in generatieve AI

  • Ernstige maatschappelijke gevolgen
  • Fairness is deels subjectief
  • Richt je op breed gedeelde waarden

$$ $$

Een sollicitatiegesprek.

Generatieve AI-concepten

Waar bias ontstaat

  • Trainingsdata
  • Het model zelf
  • Hoe het model wordt gebruikt

Ongebalanceerde weegschaal

Generatieve AI-concepten

Bias in data

Scheve of niet-representatieve informatie in de trainingsdataset

Twee trainings-trechters. Eén laat paarse vierkantjes de training ingaan en alleen paarse vierkantjes uitkomen. De ander laat een mix van gekleurde vormen de training ingaan en een mix aan vormen uitkomen

Generatieve AI-concepten

Bias in modellen

Doelen nastreven die tot bevooroordeelde uitkomsten leiden

Fotorealistische robotpoliticus die een toespraak houdt bij de VN

Generatieve AI-concepten

Bias in gebruik

AI verkeerd of kwaadwillig toepassen

Laptop met een video met een groot label "FAKE" erop.

Generatieve AI-concepten

Bias in data en modellen herkennen

  • Representatie-analyse vergelijkt hoe het model naar groepen verwijst
  • Fairness-metrics toetsen gelijke behandeling, kansen en nauwkeurigheid per groep
  • Handmatige audits laten mensen modeluitvoer beoordelen op bias
Generatieve AI-concepten

Bias in data en modellen beperken

 

  • Diversifieer dataverzameling
  • Stel model af om verschillende data te prioriteren
  • Adversariële training
  • Continue verbetering

Een verzameling vormen in verschillende kleuren en een representatieve steekproef ervan geselecteerd

Generatieve AI-concepten

Laten we oefenen!

Generatieve AI-concepten

Preparing Video For Download...