Výzvy odpovědné AI

Zodpovědná správa dat v AI

Maria Prokofieva

Lead ML Engineer

Odpovědné postupy správy dat v praxi

 

  • Komplexní

 

  • Zahrnuje kompromisy

 

  • Odborný úsudek

Odpovědná AI: modrý kruh s rukou držící ilustraci AI čipu

Zodpovědná správa dat v AI

Běžné kompromisy

 

Kompromisy

Dimenze odpovědné AI

Zodpovědná správa dat v AI

 

Obchodní faktory

 

  • Zisk na úkor spravedlnosti a soukromí

  • Příjmy na úkor testování a bezpečnosti

Zodpovědná správa dat v AI

Předtrénované modely

  • Snížení nákladů

  • Úspora času a zdrojů

  • Odpadá sběr dat a trénování

  • Mohou obsahovat zkreslená trénovací data

  • Nedostatečná transparentnost

Předtrénované modely

Zodpovědná správa dat v AI

Použití předtrénovaných modelů

  • Prověření zdroje modelu
  • Dobrá reputace
  • Důvěryhodnost
  • Přezkoumání dokumentace modelu
  • Další testy spravedlnosti a zaujatosti
Zodpovědná správa dat v AI

 

Kompromis metrik

 

  • Přesnost na úkor spravedlnosti
  • I u vyvážených datových sad
Zodpovědná správa dat v AI

Kompromisy přesnosti

  • Nižší přesnost pro specifické skupiny
  • Nezohledňuje kvalitu ani množství dat podreprezentovaných skupin
  • Ochrana soukromí snižuje přesnost

Rozpoznávání obličeje

Zodpovědná správa dat v AI

Kompromisy robustnosti

Kompromis metrik

 

  • Robustnost versus zaujatost

  • Robustnost versus spravedlnost

Zodpovědná správa dat v AI

Profesionální chování a povinnosti péče

  • Etický kodex a pravidla chování

  • Pokyny se liší podle země a organizace

  • Odpovědnost, neškodnost, spravedlnost

  • Soukromí a důvěrnost uživatelů
  • Pozitivní dopad na společnost
  • Dodržování vysokých standardů
  • Vývoj robustních a bezpečných systémů
  • Inkluzivní a nediskriminační

 

ACM

1 https://www.acm.org/code-of-ethics
Zodpovědná správa dat v AI

Pojďme procvičovat!

Zodpovědná správa dat v AI

Preparing Video For Download...