Membuat respons chatbot

Merancang Sistem Agentic dengan LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Streaming event graf

   

  • Streaming event secara real-time

  • Tiap event adalah langkah alur kerja

  • Lacak respons dan pemanggilan tool

  • Lacak progres chatbot

User: Where is the Congo?

Agent: Izinkan saya memeriksa 
       beberapa detail...

Agent: AIMessage([Tool Call to 
       Google Maps] Mencari 
       informasi tentang "the Congo")

Agent: Democratic Republic of the 
       Congo adalah negara di 
       Afrika Tengah.
Merancang Sistem Agentic dengan LangChain

Streaming respons LLM

# Definisikan fungsi untuk menjalankan chatbot berdasarkan input pengguna
def stream_graph_updates(user_input: str):


    # Mulai streaming event dari graf dengan input pengguna
    for event in graph.stream({"messages": [("user", user_input)]}):


        # Ambil dan cetak respons node chatbot
        for value in event.values():
            print("Agent:", value["messages"])


# Tentukan pertanyaan pengguna dan jalankan chatbot
user_query = "Who is Mary Shelley?"
stream_graph_updates(user_query)
Merancang Sistem Agentic dengan LangChain

Streaming respons LLM

   Agent: [AIMessage(content='Mary Shelley (1797-1851) adalah seorang 
   novelis Inggris...

   ...paling dikenal atas karyanya di genre Gotik, 
   khususnya novel "Frankenstein; or, The Modern Prometheus," 
   terbit tahun 1818. Novel ini sering dianggap sebagai salah satu karya 
   fiksi ilmiah paling awal dan membahas tema penciptaan, 
   tanggung jawab, dan hakikat kemanusiaan melalui kisah Victor 
   Frankenstein, ilmuwan yang menciptakan makhluk berperasaan dalam 
   eksperimen tidak lazim...',

   response_metadata={'finish_reason': 'stop', 'model_name': 
   'gpt-4o-mini-...')]
Merancang Sistem Agentic dengan LangChain

LLM dan halusinasi

Agent: [AIMessage(content='Judith 
Love Cohen adalah insinyur dirgantara 
Amerika, dan bekerja pada berbagai 
Misi luar angkasa, termasuk program Apollo... 
Cohen juga ibu dari aktor dan penulis Adam Cohen, 
yang telah menceritakan pengaruhnya pada 
kehidupan dan kariernya. 
additional_kwargs={}, 
response_metadata={'finish_reason': 
'stop', 'model_name': 
'gpt-4o-mini-...)

   

Contoh halusinasi

 

  • Putra terkenal Judith Love Cohen adalah Jack Black, bukan "Adam Cohen".
Merancang Sistem Agentic dengan LangChain

Buat diagram LangGraph

# Impor modul untuk diagram chatbot
from IPython.display import 
Image, display


# Coba buat dan tampilkan 
# diagram graf
try:
    display(Image(graph.get_graph()
    .draw_mermaid_png()))


# Kembalikan pengecualian jika perlu  
except Exception:
    print("Additional dependencies 
    required.")

Diagram LangGraph chatbot dasar.

Merancang Sistem Agentic dengan LangChain

Ayo berlatih!

Merancang Sistem Agentic dengan LangChain

Preparing Video For Download...