प्री-ट्रेंड मॉडल लोड करना

FastAPI के साथ प्रोडक्शन में AI डिप्लॉय करना

Matt Eckerle

Software and Data Engineering Leader

वर्तमान संरचना

FastAPI के साथ ML प्रेडिक्शन दिखाता फ्लोचार्ट

मॉडल लोड करने की चुनौती

रिक्वेस्ट/रिस्पॉन्स लाइफसाइकल समझाता डायाग्राम

API रिस्पॉन्स का इंतज़ार करता खिन्न व्यक्ति

रिक्वेस्ट से पहले मॉडल लोड करें

FastAPI के साथ ML प्रेडिक्शन दिखाता फ्लोचार्ट

मॉडल लोड करना

from fastapi import FastAPI

sentiment_model = None

def load_model():
    global sentiment_model
    sentiment_model = SentimentAnalyzer("trained_model.joblib")
    print("Model loaded successfully")

load_model()

Model loaded successfully

FastAPI लाइफस्पैन इवेंट

FastAPI लाइफस्पैन समझाता फ्लो डायाग्राम

FastAPI लाइफस्पैन इवेंट

from contextlib import asynccontextmanager

@asynccontextmanager
async def lifespan(app: FastAPI):
    # Startup: Load the ML model
    load_model()
    yield

app = FastAPI(lifespan=lifespan)

हेल्थ चेक

@app.get("/health")
def health_check():
    if sentiment_model is not None:
        return {"status": "healthy", 
                "model_loaded": True}
    return {"status": "unhealthy", 
            "model_loaded": False}

Curl कमांड:

curl -X GET \
  "http://localhost:8080/health" \
  -H "accept: application/json"

आउटपुट:

{
  "status": "healthy",
  "model_loaded": true
}

अभ्यास करते हैं!

FastAPI के साथ प्रोडक्शन में AI डिप्लॉय करना