Dataetik och AI-etik

Introduktion till dataetik

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Vad är AI?

Illustration av AI med datainmatning och modellbeslut.

  • AI kombinerar algoritmer och robusta datamängder för att lösa problem
  • Kraftfull AI kräver stora datamängder
  • Enorm potential, tveeggat svärd, etiska överväganden
Introduktion till dataetik

Data är bränslet för AI

Illustration av datas betydelse för AI med en matlagningsliknelse.

  • AI-modeller kräver stora mängder data – merparten av AI-arbetet handlar om data
  • Dålig data ger dåliga AI-resultat
  • AI-etik är bredare än dataetik – viktigt att känna till likheter och skillnader
1 Fotokälla: Andrew Ngs webbinarium, MLOps: From Model-centric to Data-centric AI
Introduktion till dataetik

Det bra och det fantastiska

Ett collage med en röstassistent, en skärmdump från ChatGPT och Netflix startsida.

  • Röstassistenter, konversations-AI
  • Filmrekommendationer

En bröströntgenbild med två tumörer i olika tillväxtstadier.

  • AI för det goda
  • Tidig cancerdiagnos
  • Precisionsodling – minskad vatten- och pesticidanvändning
Introduktion till dataetik

Det dåliga och det fula

Ett collage med nyhetsartiklar om diskriminering i AI-algoritmer.

  • Diskriminering vid anställning, sjukvård och rättsliga förfaranden
  • Många orsaker – partiska datamängder, komplexa och ogenomskinliga AI-modeller, brist på förklaringar
  • AI-etik sträcker sig längre än dataetik
Introduktion till dataetik

AI-etiska dilemman

AI-etik sträcker sig längre än dataetik

  • Konsekvenser av AI-baserat beslutsfattande:
    • Kreditbedömning/lån
    • Rekrytering
  • AI-diskriminering
  • AI/robotar som tar över jobb
  • Kan robotar/drönare kosta färre människoliv i krig?
  • Vad innebär det att vara människa?
  • Kan vi programmera in moral i AI?

Bild av ett vägmärke som pekar åt motsatta håll med ett berglandskap i bakgrunden.

1 Fotokälla: unsplash.com
Introduktion till dataetik

Vad bör en AI göra?

  • Självkörande bil med plötsligt bromsfel
  • Fortsätt fram eller sväng undan
  • Fortsätter bilen framåt dödas en kvinna, en man och en äldre kvinna
  • Svänger bilen undan dödas en ung kvinna och två barn
  • Vem är ansvarig?

Illustration av ett etiskt dilemma med en självkörande bil.

1 https://moralmachine.mit.edu/
Introduktion till dataetik

AI-etiska riktlinjer i korthet

Många organisationer arbetar med riktlinjer för AI-etik

  • Mänsklig kontroll och övervakning
  • Teknisk robusthet och säkerhet
  • Integritet och datastyrning
  • Transparens
  • Mångfald, icke-diskriminering och rättvisa
  • Miljömässigt och samhälleligt välmående
  • Ansvarighet

Bild av Algorithm Watchs inventarium över AI-etiska riktlinjer.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introduktion till dataetik

Överlappet med dataetik

  • Integritet, säkerhet, dataskydd
  • Partiskhet och rättvisa
  • Transparens
  • Ansvarighet

Illustration av överlappet mellan dataetik och AI-etik.

Introduktion till dataetik

Nu kör vi en övning!

Introduktion till dataetik

Preparing Video For Download...