Proč záleží na vysvětlitelné AI

Koncepty vysvětlitelné umělé inteligence (XAI)

Folkert Stijnman

ML Engineer

Systém AI

  • Predikce: analýza dat, rozpoznávání vzorů a vytváření prognóz
    • Příklady: tržní trendy, zdravotní rizika a počasí
  • Generování: tvorba obsahu na základě vstupu uživatele
    • Příklady: text, kód, obrázky a zvuky
Koncepty vysvětlitelné umělé inteligence (XAI)

Vysvětlitelná AI (XAI)

 

  • Propast mezi technologií a porozuměním
  • Transparentnost
  • Interpretovatelnost
  • Odpovědnost
  • Důvěra v AI

 

robot a ruka se dotýkají

Koncepty vysvětlitelné umělé inteligence (XAI)

Transparentnost v AI

 

fotografie zamlženého okna auta

 

  • Transparentnost v AI: schopnost porozumět tomu, jak systémy AI přijímají rozhodnutí nebo vytvářejí předpovědi, a sledovat tento proces
  • Zajišťuje spravedlnost a přesnost
  • Zajišťuje také odůvodnitelnost AI
Koncepty vysvětlitelné umělé inteligence (XAI)

Interpretovatelnost a odpovědnost

 

  • Interpretovatelnost: míra, do jaké člověk dokáže pochopit příčinu rozhodnutí učiněného systémem AI
  • Důležitá ve vysoce rizikových oblastech, jako je zdravotnictví
  • Odpovědnost: přiřazení zodpovědnosti za jednání a rozhodnutí systémů AI

váhy spravedlnosti uvnitř počítače

Koncepty vysvětlitelné umělé inteligence (XAI)

Budování důvěry v systémy AI

tradiční výtah černobílá fotografie

  • Lidé mají tendenci nedůvěřovat novým automatizovaným řešením
  • Porozumění buduje důvěru
  • Vztah mezi člověkem a technologií
Koncepty vysvětlitelné umělé inteligence (XAI)

Proč záleží na XAI?

XAI umožňuje systémům AI být:

  • Efektivní a odůvodnitelné
  • Jasné a srozumitelné
  • Podporující důvěru a spravedlnost
  • Rozvíjející vztah mezi lidmi a technologií
Koncepty vysvětlitelné umělé inteligence (XAI)

Pojďme procvičovat!

Koncepty vysvětlitelné umělé inteligence (XAI)

Preparing Video For Download...