使用 Wget 的高级下载

Shell 中的数据处理

Susan Sun

Data Person

使用 Wget 批量下载文件

将文件地址列表保存到文本文件中。

cat url_list.txt
https://websitename.com/datafilename001.txt
https://websitename.com/datafilename002.txt
...

使用 -iurl_list.txt 中的 URL 批量下载。

wget -i url_list.txt
Shell 中的数据处理

为大文件设置下载限制

--limit-rate 设定下载带宽上限(默认单位为每秒字节)。

语法:

wget --limit-rate={rate}k {file_location}

示例:

wget --limit-rate=200k -i url_list.txt
Shell 中的数据处理

为小文件设置下载限制

--wait 设定文件间的强制等待时间(秒)。

语法:

wget --wait={seconds} {file_location}

示例:

wget --wait=2.5 -i url_list.txt
Shell 中的数据处理

curl 与 Wget 对比

curl 优势:

  • 可用于下载和上传,支持 20+ 协议。
  • 各操作系统上更易安装。

Wget 优势:

  • 内置多文件下载的丰富功能。
  • 可处理多种可下载格式(如文件目录、HTML 页面)。
Shell 中的数据处理

Passons à la pratique !

Shell 中的数据处理

Preparing Video For Download...