Vad gör vi med databias?

Introduktion till dataetik

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Vad är bias?

Illustration av ett partiskt omdöme.

  • Första tanken inom dataetik
  • Fördom, för eller emot en person, grupp eller idé – orättvis
  • Dataetik – databias
  • Under-, över- eller felanpassad representation
  • Skadliga effekter om biasad data används för beslutsfattande
1 Ikon skapad av noomtah från www.flaticon.com
Introduktion till dataetik

När som helst, var som helst

  • I alla skeden av data- och livscykeln
  • Datainsamling
  • Datarensning, förberedelse, utveckling
  • Datamärkning

Illustration av databias i olika skeden av datas livscykel som leder till biasade algoritmer

Introduktion till dataetik

Dataspecifika biaser

  • Teknisk eller statistisk bias

    • Urvalsbias – representation
    • Mätbias
    • Självrapporteringsbias
    • Märkningsbias

  • Mänsklig och systematisk bias

    • Kön
    • Etnicitet/minoriteter
    • Kultur

Illustration av ett snedvridet objekt jämfört med dess verkliga bild.

1 Ikon skapad av Flowicon från www.flaticon.com
Introduktion till dataetik

Representation är avgörande

Skärmbild från Joys TED-talk med ett foto av henne iklädd en vit mask

  • Brist på representativ data
  • Ansiktsigenkänning – bättre resultat med en vit mask
  • Från tvålautomater till vårdresultat
  • Rekommenderas: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Introduktion till dataetik

En spegel av våra stereotyper

Illustration av olika hjärtattacksymtom för en man med tryck över bröstet och en kvinna med ryggsmärta.

  • Medicinska studier och data har historiskt sett utgått från vita män
  • T.ex. är hjärtattacksymtom olika för män och kvinnor
  • Vad händer om vi använder en diagnostisk app byggd på denna data?
1 https://womeningh.org/
Introduktion till dataetik

Allvarliga konsekvenser

Skärmbild av en diagnos från en vårdapp för hjärtattacksymtom hos män och kvinnor.

  • Hjärtattacksymtom – akut för en man, panikattack för en kvinna
Introduktion till dataetik

Oändligt många och fler tillkommer!

Illustration av olika kognitiva biaser.

1 CC BY, John Manoogian III (JM3)
Introduktion till dataetik

Toppen av isberget

Illustration av ett isbergs topp med statistiska biaser och mänskliga samt systematiska biaser under ytan

  • Statistiska biaser är bara toppen av isberget
  • Mänsklig och systematisk bias – attityd- och samhällsförändringar
  • Testa för bias, förebygg och minska den, var öppen för återkoppling
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Introduktion till dataetik

Nu kör vi en övning!

Introduktion till dataetik

Preparing Video For Download...