Catene e agenti

Concetti di LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo di vita LLM: catene e agenti

Panoramica delle fasi del ciclo di vita di un'app LLM

Template di prompt per classificare le calorie di un piatto

Un'app LLM con una catena che recupera piatti simili dal database

Un'immagine giocosa di un cartone che cavalca un topo robot

Gli agenti includono:
- Azioni (o tool) multiple
- Un LLM che decide quale azione eseguire

Utili quando:
- Le azioni sono molte
- La sequenza ottimale è sconosciuta
- Gli input sono incerti

Un'architettura di agente con due azioni

Un'architettura di agente con due azioni

Un'architettura di agente con due azioni

Ciclo di sviluppo con l'attività di prompt engineering

Ciclo di sviluppo con catene e agenti.

Ciclo di sviluppo con l'attività di sviluppo di catene e agenti

Concetti di LLMOps