Vysvětlitelnost LLM

Koncepty vysvětlitelné umělé inteligence (XAI)

Folkert Stijnman

ML Engineer

Velké jazykové modely (LLM)

  • Porozumění, generování a interpretace přirozeného jazyka
  • ChatGPT, Bard
  • Trénování na rozsáhlých textových datech
  • Psaní článků, poezie, kódu
  • Jak porozumět jeho rozhodnutím?

 

grafika znázorňující LLM

Koncepty vysvětlitelné umělé inteligence (XAI)

LLM a vysvětlitelnost

grafika znázorňující vstup dat do velkého jazykového modelu a dotazování modelu

  • Složitost je způsobena:
    • Hloubkou a rozsahem vrstev neuronové sítě v modelu
    • Velkým množstvím textu, tj. terabajty dat
Koncepty vysvětlitelné umělé inteligence (XAI)

Metody vysvětlitelnosti LLM

Tvůrce

  • Transparentnost trénovacích dat
  • Použití jednodušších modelů
  • Začlenění zpětné vazby od uživatelů

Koncový uživatel

  • Samovysvětlení
  • Úprava vstupu
Koncepty vysvětlitelné umělé inteligence (XAI)

Budoucí využití LLM

  • Zvyšování vysvětlitelnosti zůstane požadavkem
  • Budování důvěry a jistoty

grafika znázorňující mozek s různými aspekty zpracování jazyka

Koncepty vysvětlitelné umělé inteligence (XAI)

Pojďme procvičovat!

Koncepty vysvětlitelné umělé inteligence (XAI)

Preparing Video For Download...