Odpovědné aplikace generativní AI

Generative AI Concepts

Daniel Tedesco

Data Lead, Google

V předvečer voleb

Sbírka titulků fake news

Generative AI Concepts

Typy škodlivého využití

  • Deepfaky
  • Dezinformační kampaně
  • Hacking s podporou AI

AI generovaný obrázek papeže v péřové bundě

1 Pablo Xavier
Generative AI Concepts

Detekce a prevence

Klíčové zásady používání

  • Člověk v smyčce
  • Předcházení škodám
  • Průběžné monitorování

 

Body detekce a prevence

Vývojový diagram bodů využití AI: přístup, prompty, odpovědi, aplikace a komunikace a zpětná vazba.

Generative AI Concepts

Přístup

AI může neúmyslně napomáhat nekriminálním aktivitám zločineckých skupin.

  • Vyhýbat se podpoře škodlivých skupin
  • Know Your Customer (KYC)
    • Ověření totožnosti uživatele

Hrozivě vypadající postava přikládající prst na rty.

Generative AI Concepts

Prompty a odpovědi

Moderování promptů

  • Podobně jako moderování webů nebo chatů
  • Jailbreakingové prompty mohou stále obcházet pokyny vývojářů

Moderování odpovědí

  • Kontrola nebo filtrování odpovědí před zobrazením uživateli
Generative AI Concepts

Aplikace

Útočníci mohou využít neškodné odpovědi k nelegální nebo neetické činnosti.

  • Neviditelné vodoznaky mohou pomoci určit zdroj obsahu
  • Může být nutný zásah orgánů činných v trestním řízení
Generative AI Concepts

Komunikace a zpětná vazba

  • Jasné pokyny pro používání
  • Zpětná vazba
    • Uživatelské studie a kulaté stoly se zainteresovanými stranami
    • Spolupráce s organizacemi občanské společnosti
    • Možnosti zpětné vazby v produktu

Řidič auta zapínající bezpečnostní pás

Generative AI Concepts

Pojďme si procvičit!

Generative AI Concepts

Preparing Video For Download...