Verder dan geen schade doen

Introductie tot data-ethiek

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Wettig of ethisch?

Ethiek en wet hangen nauw samen
Ethiek gaat verder dan wet:
- Voortschrijdend inzicht in goed en fout
- Maatschappij, religie, vooruitgang, beschaving
Ethiek is richtinggevend, wet is afdwingbaar
Wettig is niet hetzelfde als ethisch; ethiek gaat verder dan wet

Illustratie van een hand op een boek.

¹ Icon made by Freepik from www.flaticon.com

Lessen uit het verleden

HeLa-cellen

Portret van Henrietta Lacks

Onsterfelijke menselijke cellen, cruciaal voor kankeronderzoek
Afkomstig van Henrietta Lacks, zonder haar toestemming bij een biopsie
Privacy, waardigheid, respect: ethische kwesties

Tuskegee-syfilisonderzoek

Flyer voor het werven van deelnemers voor het Tuskegee-syfilisonderzoek

Effecten van onbehandelde syfilis, 1932–1972
Afro-Amerikaanse deelnemers slecht geïnformeerd, geen toegang tot behandeling
100 stierven, ondanks beschikbare behandelingen

Leidende ethische principes

Illustratie van een ethiekboek

Doe geen schade – minimaliseer risico’s voor individuen
Weldoen – maximaliseer voordelen voor anderen en de samenleving
Respect, autonomie, handelingsvermogen – toestemming, privacy, informatie, controle, agency
Rechtvaardigheid – legaliteit, eerlijkheid en non-discriminatie
IEEE en ACM behandelen data-ethiek: verantwoord datagebruik, misbruik voorkomen

¹ Icon made by Freepik from www.flaticon.com ² https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html ³ http://ethics.acm.org/code-of-ethics/ ⁴ https://www.ieee.org/about/corporate/governance/p7-8.html

Data-ethiek: oude problemen in nieuw jasje

Facebooks studie naar emotionele besmetting

Schermafbeelding van een online artikel in The Atlantic over Facebooks manipulerende sociale experiment.

Datascientists manipuleerden nieuwsfeeds van 700.000 gebruikers om gedrag te sturen
Gebruikers niet geïnformeerd over aard en doel van het onderzoek

Googles Project Nightingale Schermafbeelding van WSJ-berichtgeving over Googles Project Nightingale

Google verwerkte zeer gevoelige data
Grootschalige medische data zonder toestemming van patiënten of kennis van artsen

¹ https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7059004/

Data-ethiek verankerd in wetgeving

Illustratie van een rechter zonder gezicht voor een microchip om regulering van data en technologie uit te beelden.

Databeschermingswetten zoals AVG en CCPA verankeren principes van data-ethiek
Privacy, dataveiligheid, transparantie, geïnformeerde toestemming, non-discriminatie, aansprakelijkheid
Niet slechts richtlijnen, maar afdwingbaar
- AVG-boetes
- EUR 20 miljoen of 4% van de wereldwijde omzet

¹ Icon made by Leremy from www.flaticon.com

De businesscase voor data-ethiek

Compliance en reputatie

Screenshots van nieuwsitems waarin de Amerikaanse FTC en Italiaanse autoriteiten bedrijven bestraffen wegens gebrekkige datapraktijken.

Toezichthouders treden op bij zwakke datapraktijken – FTC, Italiaanse AP
Hoge data-ethiek verhoogt compliance
Aantrekkelijk voor klanten en medewerkers

Verantwoord innoveren Collage van functies van LinkedIns Economic Graph-project.

LinkedIn Economic Graph in samenwerking met overheden en beleidsmakers
Voordeel voor klanten, samenleving en het bedrijf

¹ https://economicgraph.linkedin.com/

Laten we oefenen!

Introductie tot data-ethiek