Uitleg van chatgebaseerde generatieve AI-modellen

Explainable AI in Python

Fouad Trad

Machine Learning Engineer

Chatgebaseerde generatieve AI-modellen

Gebruikt om tekst te genereren
Voorspelt op basis van context en kennis

Afbeelding van een gebruiker die een prompt naar een generatief AI-model stuurt en een antwoord ontvangt.

Chain-of-thought-prompt

Stimuleert het model om zijn redenering toe te lichten

Afbeelding die laat zien hoe een chain-of-thought-prompt het model vraagt een probleem stapsgewijs op te lossen, met redenering per stap in de output.

Een chain-of-thought-prompt maken

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Self-consistency

Beoordeelt het vertrouwen van het model in gegenereerde antwoorden

Afbeelding die laat zien dat een self-consistency-prompt neerkomt op het meerdere keren sturen van dezelfde prompt naar het model, elk met een eigen antwoord.

Self-consistency bij tekstclassificatie

Handig voor tekstdetectie/classificatie

Afbeelding met een self-consistency-voorbeeld waarbij het model een gebruikersreview als positief of negatief moet classificeren en meerdere antwoorden geeft.

Self-consistency bij tekstclassificatie

Handig voor tekstdetectie/classificatie

Afbeelding met een self-consistency-voorbeeld waarbij het model een gebruikersreview als positief of negatief moet classificeren en meerdere antwoorden geeft. Het vertrouwen wordt berekend als het aandeel per categorie t.o.v. het totaal aantal antwoorden.

Self-consistency-prompts maken

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Self-consistency-prompts maken

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Laten we oefenen!

Explainable AI in Python