用 Python 進行網頁爬蟲

Python 網頁爬蟲

Thomas Laetsch

Data Scientist, NYU

商業敏銳度

企業在意什麼?

  • 比價
  • 客戶滿意度
  • 產生潛在名單
  • ……以及更多!
Python 網頁爬蟲

貼近自己

你能做什麼?

  • 在喜愛的網站搜尋喜歡的迷因。
  • 自動瀏覽分類廣告,找心儀的裝置。
  • 爬取社群內容,追蹤熱門話題。
  • 爬取料理部落格,找特定食譜或評論。
  • ……以及更多!
Python 網頁爬蟲

關於我的工作

AVorg.png

Python 網頁爬蟲

資料管線藍圖

pipeline_setup_acq_proc.png

Python 網頁爬蟲

資料管線:設定

pipeline_setup.png

設定

  • 釐清目標。
  • 找到可用的資料來源。
Python 網頁爬蟲

資料管線:擷取

pipeline_setup_acq.png

擷取

  • 從線上讀取原始資料。
  • 格式化資料以便使用。
Python 網頁爬蟲

資料管線:處理

pipeline_setup_acq_proc.png

處理

  • 做法很多!
Python 網頁爬蟲

要怎麼做?

本課重點

  • 擷取!
  • (使用 pythonscrapy
Python 網頁爬蟲

你要加入嗎?

Python 網頁爬蟲

Preparing Video For Download...