Kdy lze LLM důvěřovat

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Maximalizace Duolinga

  • Duolingo Max
    • Využívá ChatGPT pro přirozené konverzace

Logo produktu Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Maximalizace Duolinga

  • Duolingo Max
    • Využívá ChatGPT pro přirozené konverzace
  • Studenti procvičují jazyky
    • GPT přebírá různé osobnosti
    • Poskytuje okamžitou zpětnou vazbu

Ukázka použití Duolingo Max v mobilní aplikaci

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Porozumění LLM

  • Lídři firem musí LLM skutečně rozumět
  • LLM nejsou kouzlo!
    • Často jen předpovídají další část sekvence
  • Jazyku nerozumí jako lidé

Kouzelník s hůlkou předvádějící triky

Large Language Models for Business

Mají LLM zdravý rozum?

Muž drží štítek s nápisem „zdravý rozum“

  • LLM nemají pojem o tom, co je „pravda“
  • Postrádají zdravý rozum
  • Lidský dohled je u každého použití klíčový
  • Spoléhání pouze na LLM může mít nežádoucí dopady
Large Language Models for Business

Dohled nad tréninkem

  • LLM závisí na datech, na kterých byly trénovány
  • LLM mohou zesilovat předsudky či sociální nespravedlnost
    • Kontrolujte odpovědi a hledejte škodlivé výstupy

Mince naskládané do různých výšek s barevnými figurkami nahoře

Large Language Models for Business

Existuje zde zaujatost?

  • LLM se učí i z nenávistných komentářů
    • Odpovědi pak budou také nenávistné
  • Datové sady obsahující předsudky
    • Vytvářejí LLM se systémovými zkresleními
  • Mohou šířit předsudky, stereotypy nebo dezinformace
  • Vývojáři proti tomu zavedli opatření
  • Firmy si toho musí být vědomy a zajistit ochranu

Obrázek se slovem dezinformace

Large Language Models for Business

Flexibilita a její důsledky

  • Stejný prompt -> různé odpovědi
  • Přínosné pro kreativitu, problematické jinde
  • Marketing tvoří popisy produktů pomocí LLM:
    • Zákazníci vidí různé popisy
    • Image značky může utrpět

Muž si v supermarketu prohlíží dva produkty, které vypadají stejně až na barvu obalu

Large Language Models for Business

Bezpečnostní výstraha!

  • LLM jsou složité, ale lze je oklamat
  • Útočníci mohou na weby vkládat škodlivé prompty
    • Mohou zkreslit výstupy LLM
  • Známé jako prompt injection
  • Může to poškodit reputaci

Červený vykřičník v trojúhelníku označující bezpečnostní výstrahu

Large Language Models for Business

Výzvy spojené s LLM

  • Mnoho výzev je specifických pro daný obor
  • Open Worldwide Application Security Project (OWASP)
    • Vyčísluje tyto výzvy
  • Firmy si musí být rizik vědomy
  • Musí chápat fungování LLM
  • Zajistit lidský dohled
  • Investovat do školení a bezpečnosti

Dopravní značka s mužem přeskakujícím překážku a nápisem „Challenges Ahead“

1 https://owasp.org/
Large Language Models for Business

Pojďme si to vyzkoušet!

Large Language Models for Business

Preparing Video For Download...