Підказування з ланцюгом міркувань і самопогодженістю

Інженерія підказок з OpenAI API

Fouad Trad

Machine Learning Engineer

Підказування з ланцюгом міркувань

Вимагає від LLM навести кроки міркувань перед відповіддю
Використовується для складних завдань на міркування
Допомагає зменшити помилки моделі

Зображення показує, як підказка з ланцюгом міркувань просить модель розв'язувати задачу крок за кроком, а у виводі є обґрунтування кожного кроку.

Підказування з ланцюгом міркувань

Стандартна підказка для розв'язання задачі на міркування

prompt = """Q: You start with 15 books in your collection. At the bookstore, you 
purchase 8 new books. Then, you lend 3 to your friend and 2 to your cousin. Later, 
you visit another bookstore and buy 5 more books. How many books do you have now? 
A: The answer is"""

print(get_response(prompt))

25 books

Підказування з ланцюгом міркувань

Ланцюг міркувань для розв'язання задачі на міркування

prompt = """Q: You start with 15 books in your collection. At the bookstore, you 
purchase 8 new books. Then, you lend 3 to your friend and 2 to your cousin. Later, 
you visit another bookstore and buy 5 more books. How many books do you have now? 
A: Let's think step by step""" 
print(get_response(prompt))

Step 1: Start with the number of books in your collection: 15 books
Step 2: Purchase 8 new books at the bookstore: 15 + 8 = 23 books
Step 3: Lend 3 books to your friend: 23 - 3 = 20 books
Step 4: Lend 2 books to your cousin: 20 - 2 = 18 books
Step 5: Visit another bookstore and buy 5 more books: 18 + 5 = 23 books
Therefore, you have 23 books now.

Ланцюг міркувань із кількома прикладами

example = """
Q: The odd numbers in this group add up to an even number:  9, 10, 13, 4, 2.
A: Adding all the odd numbers (9, 13) gives 22. The answer is True.
"""

question = """
Q: The odd numbers in this group add up to an even number: 15, 13, 82, 7. 
A:
"""

prompt = example + question
print(get_response(prompt))

Adding all the odd numbers (15, 13, 7) gives 35. The answer is False.

Ланцюг міркувань проти багатокрокових підказок

Багатокрокові підказки

Включають кроки всередині підказки

Схема показує, що багатокрокова підказка дає моделі послідовність кроків для виконання.

Ланцюг міркувань проти багатокрокових підказок

Багатокрокові підказки

Включають кроки всередині підказки

Схема показує, що багатокрокова підказка дає моделі послідовність кроків для виконання.

Підказки з ланцюгом міркувань

Просять модель згенерувати проміжні кроки

Зображення показує, що в підказках із ланцюгом міркувань кроки створює сама модель під час генерації відповіді.

Обмеження ланцюга міркувань

Одна хибна думка → хибний результат
Запроваджено самопогоджені підказки

Схема для підказки з ланцюгом міркувань підкреслює, що одна помилка в міркуванні веде до невдалого результату.

Підказування із самопогодженістю

Генерує кілька ланцюгів міркувань, багаторазово підказуючи моделі
Більшість голосів визначає фінальний результат

Зображення показує, що самопогоджена підказка — це кілька ланцюгів міркувань із власними відповідями, а підсумок обирається більшістю голосів.

Підказування із самопогодженістю

Можна зробити, задавши кілька підказок або одну підказку з кількома відповідями.

self_consistency_instruction = "Imagine three completely independent experts who 
reason differently are answering this question. The final answer is obtained by 
majority vote. The question is: "


problem_to_solve = "If there are 10 cars in the parking lot and 3 more cars arrive. 
Half the original number of cars leave. Then, half of the current number of cars 
arrive. How many cars are there in the parking?"


prompt = self_consistency_instruction + problem_to_solve

print(get_response(prompt))

Підказка із самопогодженістю

Expert 1: Let's go step by step [...] Therefore, the total number of cars in the 
parking lot is 8 + 4 = 12.

Expert 2: First, let's calculate [...] Therefore, the total number of cars in the 
parking lot is now 5 + 2 = 7 cars.

Expert 3: Initially, there are 10 cars [...] Thus, the final answer is 8 + 4 = 12 
cars in the parking lot.

Based on the majority vote, the final answer is that there are 12 cars in the 
parking lot.

Давайте потренуємось!

Інженерія підказок з OpenAI API