Hướng dẫn phản hồi phi cấu trúc

Làm việc với Llama 3

Imtihan Ahmed

Machine Learning Engineer

Kiểm soát đầu ra mô hình

✅ Tham số
✅ Vai trò

Cách tinh chỉnh mô hình

Kiểm soát đầu ra mô hình

✅ Tham số
✅ Vai trò

Cách tinh chỉnh mô hình - tinh chỉnh nhắc lệnh

Kiểm soát đầu ra mô hình

✅ Tham số
✅ Vai trò

Cách tinh chỉnh mô hình - zero-shot/few-shot prompting

Kiểm soát đầu ra mô hình

✅ Tham số
✅ Vai trò

Cách tinh chỉnh mô hình - dùng stop words

Tinh chỉnh nhắc lệnh

Ví dụ: tóm tắt

text_choice1 = "Summarize key trends in the aviation industry from the last year, 
                focusing on fuel efficiency innovations."


text_choice2 = "Tell me about the aviation industry."


output = llm(text_choice1) # Nhắc lệnh cụ thể hiệu quả hơn

print(output['choices'][0]['text'])

The aviation industry has made significant strides in fuel efficiency innovations 
over the last year, driven by the need to reduce greenhouse gas emissions and 
operating costs. Sustainable Aviation Fuels (SAFs) have emerged as a key trend...

Thành phần của nhắc lệnh hiệu quả

Thành phần của nhắc lệnh hiệu quả - Độ chính xác

Thành phần của nhắc lệnh hiệu quả

Thành phần của nhắc lệnh hiệu quả - Mơ hồ

Thành phần của nhắc lệnh hiệu quả

Thành phần của nhắc lệnh hiệu quả - Từ khóa

Thành phần của nhắc lệnh hiệu quả

Thành phần của nhắc lệnh hiệu quả - Động từ hành động

Thành phần của nhắc lệnh hiệu quả

Thành phần của nhắc lệnh hiệu quả - Ví dụ

Zero-shot prompting

Zero-shot prompting: một chỉ dẫn duy nhất

text = "Summarize recent mergers in the airline industry."


output = llm(text) 

print(output['choices'][0]['text'])

Recent mergers in the airline industry include Alaska Air Group's acquisition of 
Hawaiian Airlines in 2024, with both airlines continuing to operate as separate 
brands. In 2022, Delta Air Lines purchased 20% of LATAM Airlines Group...

Tinh chỉnh zero-shot prompts

Cần phân biệt nhiệm vụ, đầu ra mong đợi, ngữ cảnh bổ sung
Zero-shot prompting với nhãn

text = """
       INSTRUCTION: Write concisely and in 2-3 sentences that cover only key points.
       QUESTION: Summarize recent mergers in the airline industry.
       ANSWER:
       """

Few-shot prompting

Few-shot prompting: dùng nhiều ví dụ

Nhắc lệnh

Few-shot prompting

Few-shot prompting: dùng nhiều ví dụ

Nhắc lệnh nổi bật 'aircraft model'

Few-shot prompting

Few-shot prompting: dùng nhiều ví dụ

Nhắc lệnh nổi bật 'passenger capacity'

Few-shot prompting

Few-shot prompting: dùng nhiều ví dụ

Nhắc lệnh nổi bật 'fuel consumption'

Few-shot prompting

output = llm(f"Continue the entries: {text}") 

print(output['choices'][0]['text'])

Aircraft Model: Airbus A350-900
Passenger Capacity: 350
Fuel Consumption: 2.39 liters per seat per 100 km

Dùng stop words

Cần insight ngắn gọn
Dùng stop để kết thúc phản hồi tại điểm cụ thể
Ví dụ: ứng dụng hỏi–đáp

text = "Which airlines operate direct flights from London to Singapore?"


output = llm(text, stop=["Q:"]) # Dừng phản hồi tại "Q:"

print(output['choices'][0]['text'])

You can fly direct from London to Singapore with Singapore Airlines and 
British Airways.

¡Vamos a practicar!

Làm việc với Llama 3