Mengarahkan respons tidak terstruktur

Bekerja dengan Llama 3

Imtihan Ahmed

Machine Learning Engineer

Mengontrol output model

✅ Parameter
✅ Peran

Cara menyempurnakan model

Mengontrol output model

✅ Parameter
✅ Peran

Cara menyempurnakan model - menyempurnakan prompt

Mengontrol output model

✅ Parameter
✅ Peran

Cara menyempurnakan model - zero-shot/few-shot prompting

Mengontrol output model

✅ Parameter
✅ Peran

Cara menyempurnakan model - gunakan stop words

Menyempurnakan prompt

Contoh: peringkasan

text_choice1 = "Summarize key trends in the aviation industry from the last year, 
                focusing on fuel efficiency innovations."


text_choice2 = "Tell me about the aviation industry."


output = llm(text_choice1) # Prompt yang lebih spesifik lebih efektif

print(output['choices'][0]['text'])

The aviation industry has made significant strides in fuel efficiency innovations 
over the last year, driven by the need to reduce greenhouse gas emissions and 
operating costs. Sustainable Aviation Fuels (SAFs) have emerged as a key trend...

Komponen prompt yang efektif

Komponen prompt yang efektif - Presisi

Komponen prompt yang efektif

Komponen prompt yang efektif - Ambiguitas

Komponen prompt yang efektif

Komponen prompt yang efektif - kata kunci

Komponen prompt yang efektif

Komponen prompt yang efektif - kata aksi

Komponen prompt yang efektif

Komponen prompt yang efektif - contoh

Zero-shot prompting

Zero-shot prompting: satu instruksi

text = "Summarize recent mergers in the airline industry."


output = llm(text) 

print(output['choices'][0]['text'])

Recent mergers in the airline industry include Alaska Air Group's acquisition of 
Hawaiian Airlines in 2024, with both airlines continuing to operate as separate 
brands. In 2022, Delta Air Lines purchased 20% of LATAM Airlines Group...

Menyempurnakan zero-shot prompt

Bedakan tugas, output yang diharapkan, konteks tambahan
Zero-shot prompting dengan label

text = """
       INSTRUCTION: Write concisely and in 2-3 sentences that cover only key points.
       QUESTION: Summarize recent mergers in the airline industry.
       ANSWER:
       """

Few-shot prompting

Few-shot prompting: gunakan beberapa contoh

Prompt

Few-shot prompting

Few-shot prompting: gunakan beberapa contoh

Prompt dengan 'aircraft model' disorot

Few-shot prompting

Few-shot prompting: gunakan beberapa contoh

Prompt dengan 'passenger capacity' disorot

Few-shot prompting

Few-shot prompting: gunakan beberapa contoh

Prompt dengan 'fuel consumption' disorot

Few-shot prompting

output = llm(f"Continue the entries: {text}") 

print(output['choices'][0]['text'])

Aircraft Model: Airbus A350-900
Passenger Capacity: 350
Fuel Consumption: 2.39 liters per seat per 100 km

Menggunakan stop words

Butuh jawaban ringkas
Gunakan kata stop untuk mengakhiri respons di titik tertentu
Contoh: aplikasi tanya jawab

text = "Which airlines operate direct flights from London to Singapore?"


output = llm(text, stop=["Q:"]) # Hentikan respons pada "Q:"

print(output['choices'][0]['text'])

You can fly direct from London to Singapore with Singapore Airlines and 
British Airways.

Ayo berlatih!

Bekerja dengan Llama 3