Hantera olika inputtyper i FastAPI

Driftsättning av AI i produktion med FastAPI

Matt Eckerle

Software and Data Engineering Leader

Restaurang vs API

En restaurang jämförs med indata till ett API

Valideringsflöde

Inkommande data via request
Validering av indata sker med Pydantic
Olika datatyper bearbetas efter modellens krav
Bearbetad input skickas till modellen

Ett flödesschema som förklarar requestvalidering

System för kommentarsmoderering

class CommentMetrics(BaseModel):
    length: int           
    user_karma: int     
    report_count: int

class CommentText(BaseModel):
    content: str

En bild med ikoner av kommentarsrutor

Endpoint för flyttal

app = FastAPI()

@app.post("/predict")

def predict_score(data: CommentMetrics):

    features = np.array([
        data.length,     
        data.user_karma,
        data.report_count
    ])

    model = CommentScorer()
    prediction = model.predict(features)

    return {"prediction": round(prediction, 2),
            "input": data.dict()}

Endpoint för textinput

@app.post("/analyze_text")

def analyze(comment: CommentText):

    forbidden = ["spam", "hate", "free"
                 "fake", "sign up"]

    text_lower = comment.lower()

    issues = [word for word in forbidden 
              if word in text_lower]

    return {
        "issues": issues,
        "needs_moderation": len(issues)
    }

Utdata för kommentaren: Sign up for free

{
    "issues": ["free", "sign up"],
    "needs_moderation": 2
}

Nu kör vi en övning!

Driftsättning av AI i produktion med FastAPI