Prompt engineering

Koncepty LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Životní cyklus LLM: Prompt engineering

Přehled fází životního cyklu LLM aplikace

Koncepty LLMOps

Vývojový cyklus

Úvodní přehled vývojového cyklu, který bude v průběhu kapitoly upřesňován

Koncepty LLMOps

Proč je prompt engineering důležitý?

 

Hravá kreslená postavička učící o promptech

 

 

  • Zlepšení výkonu
  • Kontrola nad výstupem
  • Předcházení zaujatosti a halucinacím
Koncepty LLMOps

Prvky promptu

 

 

  1. Instrukce
  2. Příklady / Kontext
  3. Vstupní data
  4. Indikátor výstupu

Příklad promptu zobrazující instrukci, příklady, vstup a výstup

Koncepty LLMOps

Hledání ideálního promptu

 

 

Obrázek dvou kreslených postaviček hrajících si na hřišti

 

Experimentujte s:

  • Nastavením LLM, např. teplotou nebo max. tokeny
  • In-context learningem a dalšími vzory návrhu promptů

 

Používejte playground pro experimentování!

Koncepty LLMOps

Správa promptů

 

 

Hravá kreslená postavička zakládající prompty do archivní krabice

  • Klíčové pro efektivitu, reprodukovatelnost a spolupráci
  • Důležité sledovat:
    • Prompt
    • Výstup
    • Model a nastavení
  • Použijte správce promptů nebo verzovací systém
  • Začněte budovat kolekci kvalitních párů vstup–výstup pro vyhodnocení
Koncepty LLMOps

Šablony promptů pro znovupoužitelnost

Obrázek vlevo ukazuje prompt, vpravo šablonu promptu se zdůrazněním rozdílu

Koncepty LLMOps

Vývojový cyklus

Úvodní přehled vývojového cyklu, který bude v průběhu kapitoly upřesňován

Koncepty LLMOps

Vývojový cyklus

Vývojový cyklus s přidanou aktivitou prompt engineeringu

Koncepty LLMOps

Pojďme si procvičit!

Koncepty LLMOps

Preparing Video For Download...