Vysvětlení chatovacích generativních modelů AI

Explainable AI v Pythonu

Fouad Trad

Machine Learning Engineer

Chatovací generativní modely AI

Slouží ke generování textu
Predikuje na základě kontextu a znalostí

Obrázek ukazující uživatele odesílajícího prompt generativnímu modelu AI a přijímajícího odpověď.

Prompt s řetězem myšlenek

Vybízí model k vyjádření svého uvažování

Obrázek ukazující, jak prompt s řetězem myšlenek vyzývá model k řešení problému krok za krokem a výstup obsahuje zdůvodnění každého kroku.

Vytvoření promptu s řetězem myšlenek

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Vlastní konzistence

Hodnotí míru jistoty modelu v generovaných odpovědích

Obrázek ukazující, že prompt s vlastní konzistencí spočívá v opakovaném odeslání stejného promptu modelu, přičemž každý pokus přináší odpověď.

Vlastní konzistence při klasifikaci textu

Užitečné pro klasifikaci textu

Obrázek ukazující příklad vlastní konzistence, kde model klasifikuje recenzi jako pozitivní nebo negativní a poskytuje více odpovědí.

Vlastní konzistence při klasifikaci textu

Užitečné pro klasifikaci textu

Obrázek ukazující příklad vlastní konzistence, kde model klasifikuje recenzi jako pozitivní nebo negativní a poskytuje více odpovědí. Spolehlivost je vypočítána jako podíl každé kategorie z celkového počtu odpovědí.

Vytváření promptů s vlastní konzistencí

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Vytváření promptů s vlastní konzistencí

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Pojďme si procvičit!

Explainable AI v Pythonu