curl ile veri indirme

Kabukta Veri İşleme

Susan Sun

Data Person

curl nedir?

curl:

  • URL istemcisi anlamına gelir
  • bir Unix komut satırı aracıdır
  • bir sunucuya/veriden veri aktarır
  • HTTP(S) sitelerinden ve FTP sunucularından veri indirmek için kullanılır
Kabukta Veri İşleme

curl kurulumunu kontrol etme

curl kurulumunu kontrol et:

man curl

curl yüklü değilse, şunu görürsün:

curl command not found.

Tüm talimatlar için bkz. https://curl.haxx.se/download.html.

Kabukta Veri İşleme

curl Kılavuzuna göz atma

curl yüklüyse, konsolun böyle görünür:

Karanlık bir Terminal penceresinde basılmış gibi curl kılavuzunun başlangıcının ekran görüntüsü

Kabukta Veri İşleme

curl Kılavuzuna göz atma

Kaydırmak için Enter'a bas.

Karanlık bir Terminal penceresinde basılmış gibi kısmen kaydırılmış curl kılavuzunun ekran görüntüsü

Çıkmak için q'ya bas.

Kabukta Veri İşleme

curl sözdizimini öğrenme

Temel curl sözdizimi:

curl [seçenek bayrakları] [URL]

URL zorunludur.

curl, HTTP, HTTPS, FTP ve SFTP'yi de destekler.

Tüm seçeneklerin listesi için:

curl --help
Kabukta Veri İşleme

Tek Dosya İndirme

Örnek:

Tek bir dosya şurada:

https://websitename.com/datafilename.txt

Dosyayı özgün adıyla kaydetmek için isteğe bağlı -O bayrağını kullan:

curl -O https://websitename.com/datafilename.txt

Dosyayı yeniden adlandırmak için küçük -o + yeni dosya adını kullan:

curl -o renameddatafilename.txt https://websitename.com/datafilename.txt
Kabukta Veri İşleme

Globbing Parser ile Birden Çok Dosya İndirme

Önceki örnekten devam edersek:

https://websitename.com/datafilename001.txt
https://websitename.com/datafilename002.txt
...
https://websitename.com/datafilename100.txt

Globbing Parser kullanma

Aşağıdaki komut, datafilename001.txt ile başlayıp datafilename100.txt ile bitene kadar tüm dosyaları sırayla indirir.

curl -O https://websitename.com/datafilename[001-100].txt
Kabukta Veri İşleme

Globbing Parser ile Birden Çok Dosya İndirme

Önceki örnekten devam edersek:

https://websitename.com/datafilename001.txt
https://websitename.com/datafilename002.txt
...
https://websitename.com/datafilename100.txt

Globbing Parser kullanma

Dosyalar arasında artarak ilerle ve her N'inci dosyayı indir (örn. datafilename010.txt, datafilename020.txt, ... datafilename100.txt)

curl -O https://websitename.com/datafilename[001-100:10].txt
Kabukta Veri İşleme

Önleyici Sorun Giderme

İndirme sırasında zaman aşımı olursa curl için iki kullanışlı seçenek bayrağı:

  • -L 300 hata kodunda HTTP URL'yi yönlendirir.

  • -C Zaman aşımına uğrayan dosya aktarımını kaldığı yerden sürdürür.

Hepsini birleştirirsek:

curl -L -O -C https://websitename.com/datafilename[001-100].txt
  • Tüm bayraklar URL'den önce gelir
  • Bayrakların sırası önemli değildir (örn. -L -C -O olabilir)
Kabukta Veri İşleme

Keyifli curl'lemeler!

Kabukta Veri İşleme

Preparing Video For Download...