Explicando modelos de IA generativa por chat

IA explicável em Python

Fouad Trad

Machine Learning Engineer

Modelos de IA generativa por chat

Usado para gerar texto
Prediz com base no contexto e no conhecimento

Imagem mostrando um usuário enviando um prompt para um modelo de IA generativa e recebendo uma resposta.

Prompt chain-of-thought

Incentiva o modelo a explicar o raciocínio

Imagem mostrando como um prompt de chain-of-thought pede ao modelo para resolver um problema passo a passo, e a saída contém o raciocínio de cada etapa.

Criando um prompt chain-of-thought

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Autoconsistência

Avalia a confiança do modelo nas respostas geradas

Imagem mostrando que um prompt de autoconsistência consiste em enviar o mesmo prompt várias vezes ao modelo, cada um com uma resposta.

Autoconsistência na classificação de texto

Útil para tarefas de classificação de texto

Imagem mostrando um exemplo de autoconsistência em que o modelo precisa classificar uma avaliação do usuário como positiva ou negativa e fornece várias respostas.

Autoconsistência na classificação de texto

Útil para tarefas de classificação de texto

Imagem mostrando um exemplo de autoconsistência em que o modelo precisa classificar uma avaliação do usuário como positiva ou negativa e fornece várias respostas. A confiança é calculada como a proporção de cada categoria em relação ao total de respostas.

Criando prompts de autoconsistência

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Criando prompts de autoconsistência

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Vamos praticar!

IA explicável em Python