Знакомство с чат-моделями генеративного ИИ

Объяснимый ИИ на Python

Fouad Trad

Machine Learning Engineer

Чат-модели генеративного ИИ

Используются для генерации текста
Предсказывают на основе контекста и знаний

Изображение: пользователь отправляет запрос модели генеративного ИИ и получает ответ.

Запрос с цепочкой рассуждений

Побуждает модель формулировать ход рассуждений

Изображение: запрос в цепочке рассуждений просит модель решить задачу пошагово, а в ответе содержится обоснование каждого шага.

Создание запроса с цепочкой рассуждений

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Самосогласованность

Оценивает уверенность модели в сгенерированных ответах

Изображение: запрос на самосогласованность предполагает отправку одного и того же запроса модели несколько раз, каждый раз получая отдельный ответ.

Самосогласованность в классификации текста

Полезна для задач классификации текста

Изображение: пример самосогласованности — модель классифицирует отзыв пользователя как положительный или отрицательный и предоставляет несколько ответов.

Самосогласованность в классификации текста

Полезна для задач классификации текста

Изображение: пример самосогласованности — модель классифицирует отзыв пользователя как положительный или отрицательный и предоставляет несколько ответов. Уверенность вычисляется как доля каждой категории от общего числа ответов.

Создание запросов на самосогласованность

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Создание запросов на самосогласованность

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

Давайте потренируемся!

Объяснимый ИИ на Python