フラットファイルの概要

pandasで効率よくデータを取り込む

Amany Mahfouz

Instructor

pandas

pandas ロゴ

pandasで効率よくデータを取り込む

データフレーム

  • 2次元データ向けの pandas 専用構造

国、首都、面積（平方マイル）のデータフレーム

pandasで効率よくデータを取り込む

データフレーム

  • 2次元データ向けの pandas 専用構造

列ラベル（Country、Population、Area (sq. mi.)）を強調したデータフレーム

pandasで効率よくデータを取り込む

データフレーム

  • 2次元データ向けの pandas 専用構造

行ラベル／インデックスを強調したデータフレーム

pandasで効率よくデータを取り込む

フラットファイル

  • シンプルで作成しやすい形式
  • データはプレーンテキスト（書式なし）
  • 1行＝1レコード
  • 項目は区切り文字で分割
  • 最も一般的: CSV（カンマ区切り）
  • 読み込み関数は1つ: read_csv()
pandasで効率よくデータを取り込む

CSV の読み込み

  • us_tax_data_2016.csv のサンプル
STATEFIPS,STATE,zipcode,agi_stub,...,N11901,A11901,N11902,A11902
1,AL,0,1,...,63420,51444,711580,1831661

import pandas as pd


tax_data = pd.read_csv("us_tax_data_2016.csv")

tax_data.head(4)

   STATEFIPS STATE  zipcode  agi_stub   ...     N11901  A11901  N11902   A11902
0          1    AL        0         1   ...      63420   51444  711580  1831661
1          1    AL        0         2   ...      74090  110889  416090  1173463
2          1    AL        0         3   ...      64000  143060  195130   543284
3          1    AL        0         4   ...      45020  128920  117410   381329

[4 rows x 147 columns]
pandasで効率よくデータを取り込む

他のフラットファイルの読み込み

  • 区切り文字は sep で指定
  • us_tax_data_2016.tsv のサンプル
    STATEFIPS    STATE    zipcode    agi_stub    ...    N11901    A11901    N11902    A11902
1    AL    0    1    ...    63420    51444    711580    1831661

import pandas as pd

tax_data = pd.read_csv("us_tax_data_2016.tsv", sep="\t")

tax_data.head(3)

   STATEFIPS STATE  zipcode  agi_stub   ...     N11901  A11901  N11902   A11902
0          1    AL        0         1   ...      63420   51444  711580  1831661
1          1    AL        0         2   ...      74090  110889  416090  1173463
2          1    AL        0         3   ...      64000  143060  195130   543284

[3 rows x 147 columns]
pandasで効率よくデータを取り込む

練習しましょう！

pandasで効率よくデータを取り込む

Preparing Video For Download...