在 Shell 中進行資料處理
Susan Sun
Data Person
把檔案位址清單存成文字檔。
cat url_list.txt
https://websitename.com/datafilename001.txt
https://websitename.com/datafilename002.txt
...
使用 -i 從 url_list.txt 中的 URL 批次下載。
wget -i url_list.txt
用 --limit-rate 設定下載頻寬上限(預設單位為每秒位元組)。
語法:
wget --limit-rate={rate}k {file_location}
範例:
wget --limit-rate=200k -i url_list.txt
用 --wait 設定每個檔案下載間的強制暫停時間(秒)。
語法:
wget --wait={seconds} {file_location}
範例:
wget --wait=2.5 -i url_list.txt
curl 優點:
Wget 優點:
在 Shell 中進行資料處理