Spłaszczanie danych częściowo ustrukturyzowanych

Typy danych i funkcje w Snowflake

Jake Roach

Field Data Engineer

Dane ustrukturyzowane

     school_id  |    school_name    |  street_number  |  street_name  |  suffix   |      city      |  zip_code
    ----------- | ----------------- | --------------- | ------------- | --------- | -------------- | ----------
      s_19219   |  West Aurora HS   |       879       |    Main       |    St.    |  West Aurora   |   25041
      s_77465   |  Springtown HS    |      1645       |    Cherry     |    Rd.    |  Springtown    |   14556
     school_id  |                address_info        
    ----------- | ------------------------------------------
      s_19219   |    {
                |        "school_name": "West Aurora HS",
                |        "address": {
                |            "street_number": 879,
                |            "street_name": "Main",
                |            "suffix":  "St."
                |            "city": "West Aurora",
                |            "zip_code": 25041
                |        }
                |    }
Typy danych i funkcje w Snowflake

Dane częściowo ustrukturyzowane

Dane przechowywane w nawiasach klamrowych jako pary klucz-wartość przyjmują typ VARIANT

{
    "school_name": "West Aurora HS",
    "address": {  -- Nested object
        "street_number": 879,
        "street_name": "Main",
        "suffix": "St.",
        "city": "West Aurora",
        "zip_code": 25041
    }
}

$$

$$

$$

  • Podobnie jak słownik w Pythonie lub obiekt JSON
  • Umożliwia przechowywanie danych w formacie „surowym"
  • Zagnieżdżone obiekty, jak address
  • Dwa sposoby pobierania danych
Typy danych i funkcje w Snowflake

Notacja kropkowa

                  my_column  
 -------------------------------------------
        {
            "my_first_key": 2025,
            "my_second_key": {
                "a": "alpha",
                "b": "bravo"
            }
        }
SELECT

my_column:my_first_key -- Top-level
my_column:my_second_key.a -- Nested my_column:my_second_key.b -- Nested
...

Ułatwia pobieranie wartości najwyższego poziomu i zagnieżdżonych z danych VARIANT

$$

  • Dwukropek oddziela <column-name>:<top-level-key>
  • Dodaj . i zagnieżdżone pole: <column-name>:<top-level-key>.<nested-key>
  • Pobieranie wartości głęboko zagnieżdżonych
Typy danych i funkcje w Snowflake

Notacja kropkowa

SELECT
    address_info:school_name,                              -- Top-level, dot-notation

    address_info:address.street_number AS street_number,   -- Nested, dot-notation
    address_info:address.street_name AS street_name,
    address_info:address.suffix AS suffix

FROM SCHOOLS.school_info;
              school_name    |  street_number  |  street_name  |  suffix  
           ----------------- | --------------- | ------------- | ---------
            West Aurora HS   |       879       |    Main       |    St.   
            Springtown HS    |      1645       |    Cherry     |    Rd.
Typy danych i funkcje w Snowflake

Notacja nawiasowa

Dodatkowa technika pobierania wartości najwyższego poziomu i zagnieżdżonych

$$

  • <column-name>['<top-level-key']['...']
  • Wiele poziomów zagnieżdżenia
  • Podobnie jak pobieranie danych ze słownika w Pythonie
  • Pamiętaj o pojedynczych cudzysłowach (')!
                    my_column  
 ------------------------------------------------
          {
              "my_first_key": 2025,
               my_second_key": {
                  "a": "alpha",
                  "b": "bravo"
              }
          }
SELECT

my_column['my_first_key'], -- Top-level
my_column['my_second_key']['a'] -- Nested my_column['my_second_key']['b'] -- Nested
...
Typy danych i funkcje w Snowflake

Notacja nawiasowa

SELECT

address_info['school_name'], -- Top-level, bracket-notation
address_info['address']['city'] AS city, -- Nested, bracket-notation address_info['address']['zip_code'] AS zip_code
FROM SCHOOLS.school_info;
                     school_name    |      city      |  zip_code
                  ----------------- | -------------- | ----------
                   West Aurora HS   |  West Aurora   |   25041
                   Springtown HS    |  Springtown    |   14556
Typy danych i funkcje w Snowflake

Przekształcanie danych częściowo ustrukturyzowanych

SELECT
    school_id,

    address_info:school_name AS school_name,               -- Top-level, dot-notation

    address_info:address.street_number AS street_number,   -- Nested, dot-notation
    address_info:address.street_name AS street_name,
    address_info:address.suffix AS suffix,

    address_info['address']['city'] AS city,               -- Nested, bracket-notation
    address_info['address']['zip_code'] AS zip_code

FROM SCHOOLS.school_info;
Typy danych i funkcje w Snowflake

Przekształcanie danych częściowo ustrukturyzowanych

     school_id  |                address_info        
    ----------- | ------------------------------------------
      s_19219   |    {
                |        "school_name": "West Aurora HS",
                |        "address": {
                |            "street_number": 879,
                |            "street_name": "Main",
                |            "suffix":  "St."
                |            "city": "West Aurora",
                |            "zip_code": 25041
                |        }
                |    }
     school_id  |    school_name    |  street_number  |  street_name  |  suffix   |      city      |  zip_code
    ----------- | ----------------- | --------------- | ------------- | --------- | -------------- | ----------
      s_19219   |  West Aurora HS   |       879       |    Main       |    St.    |  West Aurora   |   25041
      s_77465   |  Springtown HS    |      1645       |    Cherry     |    Rd.    |  Springtown    |   14556
Typy danych i funkcje w Snowflake

Czas na ćwiczenia!

Typy danych i funkcje w Snowflake

Preparing Video For Download...