Wymuszanie schematu

Wprowadzenie do MongoDB w Pythonie

Filip Schouwenaars

Machine Learning Researcher

Od elastycznego do zwalidowanego schematu

MongoDB umożliwia przechowywanie danych bez stałego schematu
Idealne do szybkiego prototypowania i rozwijania modelu danych

mov.insert_one({
    "title": "knives out",
    "genre": ["comedy", "crime", "drama"],
    "year": 2019, # oops
    "rating": 7.9,
})


mov.find_one({
  "title": "knives out",
  "release_year": 2019
})

Gdy schemat jest określony, warto skonfigurować walidację

Wymuszanie schematu za pomocą pydantic

Biblioteka do walidacji danych
Definiowanie oczekiwanych pól i ich typów
Szablon dla każdego dokumentu

from pydantic import BaseModel
from typing import Optional

class Movie(BaseModel):
    title: str
    genre: list[str]
    release_year: int
    rating: float
    won_oscar: Optional[bool] = None

Wstawianie danych z typowanymi modelami

# Before
new_movie = {
  "title": "knives out",
  "genre": ["comedy", "crime", "drama"],
  "year": 2019, # oops
  "rating": 7.9,
}

# No output

Brak kontroli formatu danych

# Now
new_movie = Movie(
  title = "knives out",
  genre = ["comedy", "crime", "drama"],
  year = 2019, # oops
  rating = 7.9,
)

pydantic.error_wrappers.ValidationError:
1 validation error for Movie
release_year: field required

Literówki i brakujące pola są wykrywane, zanim trafią do kolekcji!

Naprawianie błędu

from pydantic import BaseModel
from typing import Optional

class Movie(BaseModel):
    title: str
    genre: list[str]
    release_year: int
    rating: float
    won_oscar: Optional[bool] = None

# Correct set of fields and field values
new_movie = Movie(
  title = "knives out",
  genre = ["comedy", "crime", "drama"],
  release_year = 2019,
  rating = 7.9,
)


mov.insert_one(dict(new_movie))

InsertOneResult(...)

Wbudowana walidacja schematu w MongoDB

client.film.create_collection(
  "movies_v2",
  validator={
    "$jsonSchema": {
      "required": ["title", "genre", "release_year", "rating"],
      "properties": {
        "title": { "bsonType": "string" },
        "genre": { 
          "bsonType": "array",
          "items": { "bsonType": "string" }
        },
        "release_year": { "bsonType": "int" },
        "rating": { "bsonType": "double" },
        "won_oscar": { "bsonType": "bool" }
      }
    }
  }
)

Testowanie wbudowanej walidacji schematu MongoDB

client.film.movies_v2.insert_one({
  "title": "knives out",
  "genre": ["comedy", "crime", "drama"],
  "year": 2019, # oops
  "rating": 7.9,
})

pymongo.errors.WriteError: Document failed validation, [...]
'missingProperties': ['release_year'], 'errmsg': 'Document failed validation'}

Walidacja schematu na poziomie bazy danych
Działa we wszystkich aplikacjach korzystających z MongoDB

Podsumowanie

Walidacja po stronie aplikacji: pydantic.BaseModel
Walidacja po stronie bazy danych: wbudowana walidacja schematu MongoDB
Zapobieganie błędom
Wymuszanie struktury

Czas na ćwiczenia!

Wprowadzenie do MongoDB w Pythonie