AI-risicobeoordeling

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

Ethische waarborgen

 

• UNESCO
  • Benodigde waarborgen
  • Voorkom risico’s zoals bias en discriminatie
  • Fundamentele mensenrechten

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI-risico’s

 

• National Institute of Standards and Technology (NIST)

  

 

• Kans op optreden
• Ernst van de gevolgen

¹ https://www.nist.gov/artificial-intelligence

Datarisico’s

• Dataprivacy
  • Gevoelige informatie

• Databias
  • Bestendigt maatschappelijke vooroordelen  

AI die misgaat

 

• Gendersbias

 

• Raciale discriminatie

Datalek en privacy

• Hoge boete voor niet-naleving van de AVG
• Onrechtmatige gegevensverwerking
• Gescrapete afbeeldingen voor gezichtsherkenning

 

Zakelijke implicaties

Juridisch

Zakelijke implicaties

Juridisch, reputatie

Zakelijke implicaties

Juridische, reputatie- en financiële schade.

Ethische frameworks

Ethische frameworks

Ethische frameworks

Kernpijlers van risicobeoordeling

                Privacy

                Eerlijkheid

             Transparantie

             Verantwoording

Regels en compliance

• Levenscyclus van AI-project

• Regels en compliance
  • Verantwoording vraagt om governance
  • Definieer rollen en verantwoordelijkheden
  • Voldoe aan privacywetgeving
  • Vraag gebruikerstoestemming en anonimiseer data

Dataverzameling en -voorbereiding

Beoordeel

• Intern beschikbaar of extern inkopen?
• Gevoelige info zoals Persoonsgegevens (PII)?
• Goed vertegenwoordigde populatie?

Mitigeer

• Processen voor datakwaliteit
• Versleutel identifiers, genereer synthetische data
• Maak gebalanceerde data

Modelontwikkeling en -evaluatie

• Leg modeluitkomsten uit
  • Uitleg en bias-detectie
  • Eerlijke behandeling per categorie

Modeluitrol en monitoring

 

• Mate van impact

• Stel mitigatiestrategieën op

 

 

• Kosten zijn hoog in zorg en financiën

• Stuur modelgedrag bij

 

Laten we oefenen!

Artificial Intelligence (AI) Strategy