De aard van HTTP-verzoeken

Webscraping in R

Timo Grossenbacher

Instructor

Hypertext Transfer Protocol (HTTP)

Een schema dat toont hoe browsers met servers communiceren

¹ https://developer.mozilla.org/en-US/docs/Web/HTTP/Overview

De anatomie van requests

Een request wordt verstuurd naar de webserver

Een voorbeeldrequest

Typische statuscodes: 200 (OK), 404 (NOT FOUND), 3xx (redirects), 5xx (serverfouten)

Een response komt terug van de webserver

De bijbehorende response

¹ https://developer.mozilla.org/en-US/docs/Web/HTTP/Overview

Requestmethoden: GET en POST

GET: Haalt een resource op zonder data te versturen (GET /index.html)
POST: Stuurt data naar een server, bv. na het invullen van een formulier

POST /test HTTP/1.1
Host: foo.example
Content-Type: application/x-www-form-urlencoded
Content-Length: 27

field1=value1&field2=value2

POST-requests krijgen ook een response!

¹ https://developer.mozilla.org/en-US/docs/Web/HTTP/Methods/POST

HTTP-verzoeken met httr

library(httr)
GET('https://httpbin.org')

Response [https://httpbin.org/]
  Date: 2020-09-19 13:02
  Status: 200
  Content-Type: text/html; charset=utf-8
  Size: 9.59 kB
<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    ...

HTTP-verzoeken met httr

library(httr)
response <- GET('https://httpbin.org')
content(response)

{html_document}
<html lang="en">
[1] <head>\n<meta http-equiv="Content-Type" content="text/html; charset=UTF ...
[2] <body>\n    <a href="https://github.com/requests/httpbin" class="github ...

Laten we oefenen!

Webscraping in R