Lanțuri și agenți

Concepte LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclul de viață LLM: Lanțuri și agenți

De la prompturi la aplicații

 

• Pentru a utiliza acest șablon, avem nevoie de:
  • Exemple
  • Date de intrare
• Parcurgem câțiva pași:
  1. Primirea datelor de intrare
  2. Căutarea exemplelor
  3. Crearea promptului
  4. Obținerea rezultatului
  5. Parsarea rezultatului

Un lanț folosind șablonul nostru

 

Necesitatea lanțurilor

 

 

 

• Dezvoltarea aplicațiilor complexe
• Proiectare modulară pentru scalabilitate și eficiență operațională
• Posibilități nelimitate de personalizare

Agenți

 

 

 

• Agenții sunt compuși din:
  • Mai multe acțiuni (sau instrumente)
  • Un LLM care decide ce acțiune să execute

 

• Utili când:
  • Există multe acțiuni disponibile
  • Secvența optimă de pași nu este cunoscută
  • Există incertitudine privind datele de intrare

Agenți

Agenți

Agenți

Diferența dintre lanțuri și agenți

 

 

	Lanțuri 🔗	Agenți 🤖
Natură	Determinist	Adaptiv
Complexitate	Scăzută	Ridicată
Flexibilitate	Scăzută	Ridicată
Risc	Scăzut (datorită predictibilității)	Ridicat (datorită adaptabilității)

Ciclul de dezvoltare

Ciclul de dezvoltare

Ciclul de dezvoltare

Să exersăm!

Concepte LLMOps