축하합니다!

Llama 3 다루기

Imtihan Ahmed

Machine Learning Engineer

복습합시다

단계 1 - 로컬에서 Llama 실행

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")

단계 2 - 파라미터 조정

단계 3 - 역할 지정

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]

단계 4 - 출력 유도

단계 5 - JSON 응답 활용 $$

response_format = {"type": "json_object"}

단계 6 - 다중 턴 대화 구축

Llama Fundamentals 스킬 트랙

Llama로 이메일 분류 프로젝트

Llama 3 다루기