Tải nâng cao với Wget

Xử lý dữ liệu trên Shell

Susan Sun

Data Person

Tải nhiều tệp với Wget

Lưu danh sách vị trí tệp vào một tệp văn bản.

cat url_list.txt
https://websitename.com/datafilename001.txt
https://websitename.com/datafilename002.txt
...

Tải từ các URL trong tệp url_list.txt bằng -i.

wget -i url_list.txt
Xử lý dữ liệu trên Shell

Thiết lập giới hạn tải cho tệp lớn

Đặt giới hạn băng thông tải xuống (mặc định tính bằng byte/giây) với --limit-rate.

Cú pháp:

wget --limit-rate={rate}k {file_location}

Ví dụ:

wget --limit-rate=200k -i url_list.txt
Xử lý dữ liệu trên Shell

Thiết lập giới hạn tải cho tệp nhỏ

Đặt thời gian tạm dừng bắt buộc (giây) giữa các lượt tải với --wait.

Cú pháp:

wget --wait={seconds} {file_location}

Ví dụ:

wget --wait=2.5 -i url_list.txt
Xử lý dữ liệu trên Shell

So sánh curl và Wget

Ưu điểm của curl:

  • Dùng để tải xuống và tải lên qua 20+ giao thức.
  • Dễ cài đặt trên mọi hệ điều hành.

Ưu điểm của Wget:

  • Nhiều chức năng tích hợp để xử lý tải nhiều tệp.
  • Xử lý nhiều định dạng nguồn tải (ví dụ: thư mục tệp, trang HTML).
Xử lý dữ liệu trên Shell

Cùng thực hành!

Xử lý dữ liệu trên Shell

Preparing Video For Download...