Expliquer les modèles IA générative en chat

IA explicable en Python

Fouad Trad

Machine Learning Engineer

Modèles d’IA générative en chat

Sert à générer du texte
Prédit selon le contexte et les connaissances

Image montrant un utilisateur envoyant une invite à un modèle d’IA générative et recevant une réponse.

Invite chain-of-thought

Incite le modèle à expliciter son raisonnement

Image montrant comment une invite « chain-of-thought » demande au modèle de résoudre un problème étape par étape, et la sortie contient le raisonnement de chaque étape.

Créer une invite chain-of-thought

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Auto-cohérence

Évalue la confiance du modèle dans ses réponses

Image montrant qu’une invite d’auto-cohérence consiste à envoyer plusieurs fois la même invite au modèle, chacune ayant une réponse.

Auto-cohérence en classification de texte

Utile pour la classification de texte

Image montrant un exemple d’auto-cohérence où le modèle doit classer un avis utilisateur en positif ou négatif et fournit plusieurs réponses.

Auto-cohérence en classification de texte

Utile pour la classification de texte

Image montrant un exemple d’auto-cohérence où le modèle doit classer un avis utilisateur en positif ou négatif et fournit plusieurs réponses. La confiance est calculée comme la proportion de chaque catégorie par rapport au nombre total de réponses.

Créer des invites d’auto-cohérence

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Créer des invites d’auto-cohérence

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Passons à la pratique !

IA explicable en Python