Ingineria prompturilor

Concepte LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclul de viață LLM: Ingineria prompturilor

Prezentare generală a fazelor ciclului de viață al aplicației LLM

Concepte LLMOps

Ciclul de dezvoltare

O prezentare inițială a ciclului de dezvoltare, care va fi rafinată pe parcursul acestui capitol

Concepte LLMOps

De ce este importantă ingineria prompturilor?

 

Un personaj de desen animat care predă despre prompturi

 

 

  • Îmbunătățirea performanței
  • Control asupra rezultatelor
  • Evitarea bias-urilor și a halucinațiilor
Concepte LLMOps

Elementele unui prompt

 

 

  1. Instrucțiune
  2. Exemple / Context
  3. Date de intrare
  4. Indicator de ieșire

Exemplu de prompt cu instrucțiune, exemple, intrare și ieșire

Concepte LLMOps

Găsirea promptului perfect

 

 

Imaginea a doi personaje de desen animat care se joacă pe un teren de joacă

 

Experimentați cu:

  • Setările LLM, precum temperatura sau numărul maxim de tokeni
  • Învățarea în context și alte tipare de proiectare a prompturilor

 

Folosiți un playground pentru experimente!

Concepte LLMOps

Gestionarea prompturilor

 

 

Un personaj de desen animat care arhivează prompturi într-o cutie

  • Esențial pentru eficiență, reproductibilitate și colaborare
  • Important de urmărit:
    • Promptul
    • Rezultatul
    • Modelul și setările
  • Utilizați un manager de prompturi sau un sistem de control al versiunilor
  • Începeți să colectați perechi bune intrare-ieșire pentru evaluare
Concepte LLMOps

Șabloane de prompturi pentru reutilizare

Imagine cu un prompt în stânga și un șablon de prompt în dreapta, evidențiind diferența dintre cele două

Concepte LLMOps

Ciclul de dezvoltare

O prezentare inițială a ciclului de dezvoltare, care va fi rafinată pe parcursul acestui capitol

Concepte LLMOps

Ciclul de dezvoltare

Ciclul de dezvoltare la care s-a adăugat activitatea de inginerie a prompturilor

Concepte LLMOps

Să exersăm!

Concepte LLMOps

Preparing Video For Download...