Hodnocení a zmírňování sociálního zkreslení

Generative AI Concepts

Daniel Tedesco

Data Lead, Google

Co znamená sociální zkreslení?

$$ $$

Systematická nespravedlnost v generativní AI

  • Závažné společenské důsledky
  • Spravedlnost může být subjektivní
  • Důraz na obecně sdílené hodnoty

$$ $$

Pracovní pohovor.

Generative AI Concepts

Kde se zkreslení objevuje

  • Trénovací data
  • Samotný model
  • Jak je model používán

Nevyvážené váhy

Generative AI Concepts

Zkreslení v datech

Zkreslené nebo nereprezentativní informace v trénovací datové sadě

Dva trénovací trychtýře. První ukazuje fialové čtverce vstupující do tréninku a generování pouze fialových čtverců. Druhý ukazuje různobarevné tvary vstupující do tréninku a generování různých tvarů

Generative AI Concepts

Zkreslení v modelech

Sledování cílů vedoucích k zaujatým výsledkům

Fotorealistický robot-politik pronášející projev v OSN

Generative AI Concepts

Zkreslení při použití

Použití AI nesprávným nebo škodlivým způsobem

Notebook zobrazující video s velkým štítkem 'FAKE'.

Generative AI Concepts

Identifikace zkreslení v datech a modelech

  • Analýza reprezentace porovnává, jak model odkazuje na různé skupiny
  • Metriky spravedlnosti hodnotí modely z hlediska rovného zacházení, příležitostí a přesnosti napříč skupinami
  • Lidské audity žádají skutečné lidi, aby přezkoumali výstupy modelu a odhalili zkreslení
Generative AI Concepts

Zmírňování zkreslení v datech a modelech

 

  • Diverzifikujte sběr dat
  • Upravte model tak, aby upřednostňoval různá data
  • Adversariální trénink
  • Průběžné zlepšování

Sbírka tvarů různých barev a jejich reprezentativní vzorek

Generative AI Concepts

Pojďme cvičit!

Generative AI Concepts

Preparing Video For Download...