MCP và LLM: Prompt và Tài nguyên

Giới thiệu về Model Context Protocol (MCP)

James Chapman

AI Curriculum Manager, DataCamp

Tài nguyên và Prompt trong luồng LLM

Tài nguyên: ngữ cảnh chỉ đọc
Prompt: mẫu hướng dẫn để đặt hành vi và tối ưu mô hình cho tác vụ

→ Tiếp tục với Anthropic Messages API

Các thành phần LLM

Quy trình Prompt–Tài nguyên

Quy trình prompt–tài nguyên 1

Quy trình Prompt–Tài nguyên

Quy trình prompt–tài nguyên 2

Quy trình Prompt–Tài nguyên

Quy trình prompt–tài nguyên 3

Quy trình Prompt–Tài nguyên

Quy trình prompt–tài nguyên 4

from mcp.server.fastmcp import FastMCP

mcp = FastMCP("Timezone Converter")

@mcp.tool()
def convert_timezone(date_time: str, from_timezone: str, to_timezone: str) -> str:
    # ...

@mcp.resource("file://locations.txt")
def get_locations() -> str:
    # ...

@mcp.prompt(title="Timezone Conversion")
def convert_timezone_prompt(timezone_request: str) -> str:
    # ...

if __name__ == "__main__":
    mcp.run(transport="stdio")

Hàm trợ giúp phía Client

read_resource(resource_uri): lấy nội dung tài nguyên theo URI
read_prompt(prompt_name, user_input): lấy mẫu prompt với yêu cầu của người dùng được chèn vào

1. Lấy Tài nguyên và Prompt

async def get_context_from_mcp(user_query: str) -> tuple[str, str]:
    """Fetch resource content and prompt text from the MCP server."""
    params = StdioServerParameters(command=sys.executable, args=["timezone_server.py"])

    async with stdio_client(params) as (reader, writer):
        async with ClientSession(reader, writer) as session:
            await session.initialize()

            # Get the resource (supported locations)
            resource_result = await session.read_resource("file://locations.txt")
            resource_text = resource_result.contents[0].text

            # Get the prompt with the user's query
            prompt_result = await session.get_prompt("convert_timezone_prompt",
                                                     arguments={"timezone_request": user_query})
            prompt_text = prompt_result.messages[0].content.text

            return resource_text, prompt_text

2. Tạo thông điệp hệ thống và gọi LLM

async def call_llm_with_context(user_query: str):
    """Call the LLM with resource and prompt context from MCP."""

    resource_text, prompt_text = await get_context_from_mcp(user_query)

    # Combine prompt (task + rules + user request) with resource (supported locations)
    full_prompt = prompt_text + "\n\nSupported locations:\n" + resource_text

    client = AsyncAnthropic(api_key="<ANTHROPIC_API_TOKEN>")
    response = await client.messages.create(
        model="claude-sonnet-4-6",
        max_tokens=1024,
        messages=[{"role": "user", "content": full_prompt}],
        tools=anthropic_tools,  # from get_tools_from_mcp(), formatted for Anthropic
    )

3. Xử lý phản hồi

    if response.stop_reason == "end_turn":
        text = next((b.text for b in response.content if b.type == "text"), "")
        print(f"\nAssistant: {text}")
        return str(text)

    if response.stop_reason == "tool_use":
        tool_use = next(b for b in response.content if b.type == "tool_use")
        result = await call_mcp_tool(
            tool_use.name, tool_use.input)
        # ... send the tool_result back in a follow-up
        #     request, then print the reply, as before

Ví dụ: Yêu cầu mơ hồ

if __name__ == "__main__":
    asyncio.run(call_llm_with_context("What time is it in Canada?"))

Assistant: Canada có nhiều múi giờ. Bạn muốn thành phố hay vùng nào?
Ví dụ: Toronto, Vancouver, hoặc Halifax?

Ví dụ: Yêu cầu rõ ràng

if __name__ == "__main__":
    asyncio.run(call_llm_with_context("It is 9:50 AM in the UK in January. What
        time is it in Lisbon, Portugal?"))

Assistant: Ở Lisbon cũng là 9:50 AM.

Tổng kết: Tài nguyên và Prompt với LLM

Quy trình prompt–tài nguyên 4

Ayo berlatih!

Giới thiệu về Model Context Protocol (MCP)