Lidando com diferentes tipos de entrada no FastAPI

Colocando IA em Produção com FastAPI

Matt Eckerle

Software and Data Engineering Leader

Restaurante vs API

Um restaurante sendo comparado a entradas de uma API

Colocando IA em Produção com FastAPI

Fluxo de validação

 

 

  • Dados recebidos via requisição
  • Validação de entrada com Pydantic
  • Processar tipos conforme o modelo
  • Entrada processada enviada ao modelo

Um fluxograma explicando a validação da requisição

Colocando IA em Produção com FastAPI

Sistema de moderação de comentários

 

class CommentMetrics(BaseModel):
    length: int           
    user_karma: int     
    report_count: int

class CommentText(BaseModel): content: str

Uma imagem de ícones de caixa de comentários

Colocando IA em Produção com FastAPI

Endpoint para números de ponto flutuante

app = FastAPI()

@app.post("/predict")
def predict_score(data: CommentMetrics):
features = np.array([ data.length, data.user_karma, data.report_count ])
model = CommentScorer() prediction = model.predict(features)
return {"prediction": round(prediction, 2), "input": data.dict()}
Colocando IA em Produção com FastAPI

Endpoint para entrada textual

@app.post("/analyze_text")

def analyze(comment: CommentText):
forbidden = ["spam", "hate", "free" "fake", "sign up"]
text_lower = comment.lower()
issues = [word for word in forbidden if word in text_lower]
return { "issues": issues, "needs_moderation": len(issues) }

Saída para o comentário: Sign up for free

{
    "issues": ["free", "sign up"],
    "needs_moderation": 2
}
Colocando IA em Produção com FastAPI

Vamos praticar!

Colocando IA em Produção com FastAPI

Preparing Video For Download...