ยินดีด้วย!
การทำงานกับ Llama 3
Imtihan Ahmed
Machine Learning Engineer
ทบทวนสิ่งที่เรียนมา
from llama_cpp import Llama
llm = Llama(model_path = "path/to/model.gguf")
ทบทวนสิ่งที่เรียนมา
$$
- พารามิเตอร์
temperature,top_k,top_p
ทบทวนสิ่งที่เรียนมา
message_list = [{"role": "system", "content": system_message},
{"role": "user", "content": user_message}]
ทบทวนสิ่งที่เรียนมา
- Prompt ที่แม่นยำ
- คำ
stop - Zero-shot/Few-shot prompting
ทบทวนสิ่งที่เรียนมา
$$
response_format = {"type": "json_object"}
ทบทวนสิ่งที่เรียนมา
- คลาส
Conversation - เมธอด
.create_completion()
