Zpracování různých typů vstupu ve FastAPI

Nasazení AI do produkce s FastAPI

Matt Eckerle

Software and Data Engineering Leader

Restaurace vs. API

Restaurace jako analogie vstupu do API

Průběh validace

Příchozí data prostřednictvím požadavku
Validace vstupních dat probíhá pomocí Pydantic
Zpracování různých typů dat podle požadavků modelu
Zpracovaný vstup odeslán do modelu

Vývojový diagram validace požadavku

Systém moderování komentářů

class CommentMetrics(BaseModel):
    length: int           
    user_karma: int     
    report_count: int

class CommentText(BaseModel):
    content: str

Obrázek ikon komentářových polí

Endpoint pro čísla s plovoucí desetinnou čárkou

app = FastAPI()

@app.post("/predict")

def predict_score(data: CommentMetrics):

    features = np.array([
        data.length,     
        data.user_karma,
        data.report_count
    ])

    model = CommentScorer()
    prediction = model.predict(features)

    return {"prediction": round(prediction, 2),
            "input": data.dict()}

Endpoint pro textový vstup

@app.post("/analyze_text")

def analyze(comment: CommentText):

    forbidden = ["spam", "hate", "free"
                 "fake", "sign up"]

    text_lower = comment.lower()

    issues = [word for word in forbidden 
              if word in text_lower]

    return {
        "issues": issues,
        "needs_moderation": len(issues)
    }

Výstup pro komentář: Sign up for free

{
    "issues": ["free", "sign up"],
    "needs_moderation": 2
}

Pojďme si to procvičit!

Nasazení AI do produkce s FastAPI