Łańcuchy i agenty

Koncepcje LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cykl życia LLM: łańcuchy i agenty

Od promptów do aplikacji

 

• Do użycia szablonu potrzebne są:
  • Przykłady
  • Dane wejściowe
• Przechodzimy przez kilka kroków:
  1. Odbiór danych wejściowych
  2. Wyszukiwanie przykładów
  3. Tworzenie promptu
  4. Pobranie odpowiedzi
  5. Parsowanie odpowiedzi

Łańcuch oparty na naszym szablonie

 

Po co są łańcuchy?

 

 

 

• Tworzenie zaawansowanych aplikacji
• Modularność wspierająca skalowalność i efektywność
• Nieograniczone możliwości personalizacji

Agenty

 

 

 

• Agent składa się z:
  • Wielu działań (lub narzędzi)
  • LLM decydującego o następnym kroku

 

• Przydatny, gdy:
  • Jest wiele możliwych działań
  • Optymalna kolejność kroków jest nieznana
  • Dane wejściowe są niepewne

Agenty

Agenty

Agenty

Różnica między łańcuchami a agentami

 

 

	Łańcuchy 🔗	Agenty 🤖
Charakter	Deterministyczny	Adaptacyjny
Złożoność	Niska	Wysoka
Elastyczność	Niska	Wysoka
Ryzyko	Niższe (ze względu na przewidywalność)	Wyższe (ze względu na adaptacyjność)

Cykl wytwarzania oprogramowania

Cykl wytwarzania oprogramowania

Cykl wytwarzania oprogramowania

Czas na ćwiczenia!

Koncepcje LLMOps