Sterowanie nieustrukturyzowanymi odpowiedziami

Praca z Llama 3

Imtihan Ahmed

Machine Learning Engineer

Sterowanie wynikami modelu

✅ Parametry
✅ Role

Jak dostosować model

Sterowanie wynikami modelu

✅ Parametry
✅ Role

Jak dostosować model – udoskonalanie promptów

Sterowanie wynikami modelu

✅ Parametry
✅ Role

Jak dostosować model – promptowanie zero-shot/few-shot

Sterowanie wynikami modelu

✅ Parametry
✅ Role

Jak dostosować model – użycie słów stop

Udoskonalanie promptów

Przykład: podsumowanie

text_choice1 = "Summarize key trends in the aviation industry from the last year, 
                focusing on fuel efficiency innovations."


text_choice2 = "Tell me about the aviation industry."


output = llm(text_choice1) # More specific prompt is more effective

print(output['choices'][0]['text'])

The aviation industry has made significant strides in fuel efficiency innovations 
over the last year, driven by the need to reduce greenhouse gas emissions and 
operating costs. Sustainable Aviation Fuels (SAFs) have emerged as a key trend...

Składniki skutecznego promptowania

Składniki skutecznego promptowania – precyzja

Składniki skutecznego promptowania

Składniki skutecznego promptowania – niejednoznaczność

Składniki skutecznego promptowania

Składniki skutecznego promptowania – słowa kluczowe

Składniki skutecznego promptowania

Składniki skutecznego promptowania – słowa akcji

Składniki skutecznego promptowania

Składniki skutecznego promptowania – przykłady

Promptowanie zero-shot

Promptowanie zero-shot: pojedyncza instrukcja

text = "Summarize recent mergers in the airline industry."


output = llm(text) 

print(output['choices'][0]['text'])

Recent mergers in the airline industry include Alaska Air Group's acquisition of 
Hawaiian Airlines in 2024, with both airlines continuing to operate as separate 
brands. In 2022, Delta Air Lines purchased 20% of LATAM Airlines Group...

Udoskonalanie promptów zero-shot

Należy rozróżnić zadanie, oczekiwany wynik i kontekst
Promptowanie zero-shot z etykietami

text = """
       INSTRUCTION: Write concisely and in 2-3 sentences that cover only key points.
       QUESTION: Summarize recent mergers in the airline industry.
       ANSWER:
       """

Promptowanie few-shot

Promptowanie few-shot: wykorzystanie wielu przykładów

Prompt

Promptowanie few-shot

Promptowanie few-shot: wykorzystanie wielu przykładów

Prompt z wyróżnionym polem 'aircraft model'

Promptowanie few-shot

Promptowanie few-shot: wykorzystanie wielu przykładów

Prompt z wyróżnionym polem 'passenger capacity'

Promptowanie few-shot

Promptowanie few-shot: wykorzystanie wielu przykładów

Prompt z wyróżnionym polem 'fuel consumption'

Promptowanie few-shot

output = llm(f"Continue the entries: {text}") 

print(output['choices'][0]['text'])

Aircraft Model: Airbus A350-900
Passenger Capacity: 350
Fuel Consumption: 2.39 liters per seat per 100 km

Używanie słów stop

Potrzeba zwięzłych odpowiedzi
Użycie słów stop, aby zakończyć odpowiedź w określonym miejscu
Przykład: aplikacja do odpowiadania na pytania

text = "Which airlines operate direct flights from London to Singapore?"


output = llm(text, stop=["Q:"]) # Stop responses at "Q:"

print(output['choices'][0]['text'])

You can fly direct from London to Singapore with Singapore Airlines and 
British Airways.

Czas na ćwiczenia!

Praca z Llama 3