Explicarea modelelor AI generative bazate pe chat

AI Explicabil în Python

Fouad Trad

Machine Learning Engineer

Modele AI generative bazate pe chat

Utilizate pentru generarea de text
Fac predicții pe baza contextului și a cunoștințelor

Imagine care prezintă un utilizator trimițând un prompt unui model AI generativ și primind un răspuns.

Promptul chain-of-thought

Încurajează modelul să își articuleze raționamentul

Imagine care arată cum un prompt chain-of-thought solicită modelului să rezolve o problemă pas cu pas, iar rezultatul conține raționamentul pentru fiecare pas parcurs.

Crearea unui prompt chain-of-thought

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Auto-consistența

Evaluează încrederea modelului în răspunsurile generate

Imagine care arată că un prompt cu auto-consistență presupune trimiterea aceluiași prompt de mai multe ori modelului, fiecare generând câte un răspuns.

Auto-consistența în clasificarea textului

Util pentru sarcinile de clasificare a textului

Imagine care prezintă un exemplu de auto-consistență în care modelul trebuie să clasifice o recenzie ca pozitivă sau negativă și oferă mai multe răspunsuri.

Auto-consistența în clasificarea textului

Util pentru sarcinile de clasificare a textului

Imagine care prezintă un exemplu de auto-consistență în care modelul trebuie să clasifice o recenzie ca pozitivă sau negativă și oferă mai multe răspunsuri. Încrederea este calculată ca proporție a fiecărei categorii față de numărul total de răspunsuri.

Crearea prompturilor cu auto-consistență

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Crearea prompturilor cu auto-consistență

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Să exersăm!

AI Explicabil în Python