Omezení ChatGPT

Porozumění ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT pod pokličkou

Diagram znázorňující vztah promptů a odpovědí k velkému jazykovému modelu.

Velká zeď z kostek.

Velká zeď z kostek a neúplná zeď s vkládaným dílkem.

Zeď z kostek.

Zeď z kostek označená jako trénovací data.

Zobrazila se síťová struktura představující algoritmy pro rozpoznávání jazykových vzorců.

Ozubená kola a žárovky obklopené cyklickým symbolem představují iterativní procesy při dolaďování modelu.

Figurína skládající zeď z kostek – znázornění práce ChatGPT s textem.

Zeď z kostek, která se zastaví k určitému datu.

ChatGPT byl trénován na rozsáhlém textovém datasetu, mimo jiné:
- Knihy
- Články
- Webové stránky
Model může převzít předsudky z trénovacích dat
Mohou ovlivnit odpovědi

Ikona znázorňující, jak model přejímá předsudky z dat, na nichž byl trénován.

Konverzace uživatele s ChatGPT, kde se kontext v průběhu mění.

Konverzace uživatele s ChatGPT, kde se kontext v průběhu mění.

Konverzace uživatele s ChatGPT, kde se kontext v průběhu mění.

Model sebejistě poskytuje nepřesné informace
Nastává zejména tehdy, když model překračuje hranice svých znalostí nebo schopností

Příklad halucinace ChatGPT – vymyšlený profil na LinkedIn.

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Příklad: Vytvoření písně ve stylu existujícího interpreta
- Kdo vlastní novou píseň?

Ikona uživatele u notebooku.

Příklad: Vytvoření písně ve stylu existujícího interpreta
- Kdo vlastní novou píseň?

Ikona zpívajícího hudebníka.

Příklad: Vytvoření písně ve stylu existujícího interpreta
- Kdo vlastní novou píseň?

Ikona technického stakeholdera.

Porozumění ChatGPT