Применение схемы

Введение в MongoDB на Python

Filip Schouwenaars

Machine Learning Researcher

От гибкой схемы к валидируемой

MongoDB позволяет хранить данные без фиксированной схемы
Удобно для быстрого прототипирования и гибкой модели данных

mov.insert_one({
    "title": "knives out",
    "genre": ["comedy", "crime", "drama"],
    "year": 2019, # oops
    "rating": 7.9,
})


mov.find_one({
  "title": "knives out",
  "release_year": 2019
})

Когда схема определена, важно настроить валидацию

Схема с помощью pydantic

Библиотека валидации данных
Определяет ожидаемые поля и их типы
Шаблон для каждого документа

from pydantic import BaseModel
from typing import Optional

class Movie(BaseModel):
    title: str
    genre: list[str]
    release_year: int
    rating: float
    won_oscar: Optional[bool] = None

Вставка с типизированными моделями данных

# Before
new_movie = {
  "title": "knives out",
  "genre": ["comedy", "crime", "drama"],
  "year": 2019, # oops
  "rating": 7.9,
}

# No output

Формат данных не проверяется

# Now
new_movie = Movie(
  title = "knives out",
  genre = ["comedy", "crime", "drama"],
  year = 2019, # oops
  rating = 7.9,
)

pydantic.error_wrappers.ValidationError:
1 validation error for Movie
release_year: field required

Опечатки и пропущенные поля обнаруживаются до попадания в коллекцию!

Исправляем ошибку

from pydantic import BaseModel
from typing import Optional

class Movie(BaseModel):
    title: str
    genre: list[str]
    release_year: int
    rating: float
    won_oscar: Optional[bool] = None

# Correct set of fields and field values
new_movie = Movie(
  title = "knives out",
  genre = ["comedy", "crime", "drama"],
  release_year = 2019,
  rating = 7.9,
)


mov.insert_one(dict(new_movie))

InsertOneResult(...)

Встроенная валидация схемы в MongoDB

client.film.create_collection(
  "movies_v2",
  validator={
    "$jsonSchema": {
      "required": ["title", "genre", "release_year", "rating"],
      "properties": {
        "title": { "bsonType": "string" },
        "genre": { 
          "bsonType": "array",
          "items": { "bsonType": "string" }
        },
        "release_year": { "bsonType": "int" },
        "rating": { "bsonType": "double" },
        "won_oscar": { "bsonType": "bool" }
      }
    }
  }
)

Проверка встроенной валидации схемы MongoDB

client.film.movies_v2.insert_one({
  "title": "knives out",
  "genre": ["comedy", "crime", "drama"],
  "year": 2019, # oops
  "rating": 7.9,
})

pymongo.errors.WriteError: Document failed validation, [...]
'missingProperties': ['release_year'], 'errmsg': 'Document failed validation'}

Валидация схемы на уровне базы данных
Работает для всех приложений, подключённых к MongoDB

Итоги

Валидация на стороне приложения: pydantic.BaseModel
Валидация на стороне БД: встроенная валидация схемы MongoDB
Предотвращение ошибок
Обеспечение структуры

Давайте потренируемся!

Введение в MongoDB на Python