Řetězce a agenti
Koncepty LLMOps
Max Knobbout, PhD
Applied Scientist, Uber
Životní cyklus LLM: Řetězce a agenti
Od promptů k aplikacím
- K použití šablony potřebujeme:
- Postup zahrnuje několik kroků:
- Přijetí vstupu
- Vyhledání příkladů
- Vytvoření promptu
- Získání výstupu
- Zpracování výstupu
Proč potřebujeme řetězce
- Vývoj sofistikovaných aplikací
- Modulární návrh zvyšující škálovatelnost a provozní efektivitu
- Neomezené možnosti přizpůsobení
Agenti
- Agent se skládá z:
- Více akcí (nebo nástrojů)
- LLM, který rozhoduje o akci
- Užitečné, když:
- Existuje mnoho akcí
- Optimální pořadí kroků není známo
- Vstupy jsou nejisté
Rozdíl mezi řetězci a agenty
|
Řetězce 🔗 |
Agenti 🤖 |
| Charakter |
Deterministický |
Adaptivní |
| Složitost |
Nízká |
Vysoká |
| Flexibilita |
Nízká |
Vysoká |
| Riziko |
Nižší (předvídatelnost) |
Vyšší (adaptabilita) |
Pojďme si procvičit!
Koncepty LLMOps
Preparing Video For Download...
