Riskbedömning av AI

Artificiell intelligens (AI) – strategi

Vidhi Chugh

AI strategist and ethicist

Etiska skyddsmekanismer

 

• UNESCO
  • Behov av skyddsmekanismer
  • Förebygg risker som partiskhet och diskriminering
  • Grundläggande mänskliga rättigheter

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI-risker

 

• National Institute of Standards and Technology (NIST)

  

 

• Sannolikhet för att risken inträffar
• Konsekvensernas allvarlighetsgrad

¹ https://www.nist.gov/artificial-intelligence

Datarisker

• Dataintegritet
  • Känslig information

• Datapartiskhet
  • Förstärker samhälleliga fördomar  

När AI går fel

 

• Könsdiskriminering

 

• Rasdiskriminering

Dataintegritetsintrång

• Höga böter för brott mot GDPR
• Otillåten behandling av personuppgifter
• Skrapade bilder för ansiktsigenkänning

 

Affärsmässiga konsekvenser

Rättsliga konsekvenser

Affärsmässiga konsekvenser

Rättsliga och anseenderelaterade konsekvenser

Affärsmässiga konsekvenser

Rättsliga, anseenderelaterade och finansiella skador.

Etiska ramverk

Etiska ramverk

Etiska ramverk

Riskbedömningens nyckeldelar

                Integritet

                Rättvisa

             Transparens

             Ansvarsskyldighet

Regelverk och efterlevnad

• AI-projektets livscykel

• Regelverk och efterlevnad
  • Ansvarsskyldighet kräver styrning
  • Definiera roller och ansvar
  • Efterlevnad av dataskyddsregler
  • Inhämta samtycke och anonymisera data

Datainsamling och förberedelse

Bedöm

• Internt tillgänglig eller extern upphandling?
• Känslig information, t.ex. personuppgifter (PII)?
• Välrepresenterad population?

Åtgärda

• Processer för datakvalitet
• Identifierarkryptering och syntetisk datagenerering
• Skapa balanserade data

Modellutveckling och utvärdering

• Förklara modellens utfall
  • Förklaring och identifiering av partiskhet
  • Rättvis behandling över kategorier

Modelldriftsättning och övervakning

 

• Påverkansgrad

• Upprätta åtgärdsstrategier

 

 

• Kostnaderna är höga inom vård och finans

• Justera modellens beteende

 

Nu kör vi en övning!

Artificiell intelligens (AI) – strategi