Uitdagingen van verantwoorde AI

Verantwoord AI-gegevensbeheer

Maria Prokofieva

Lead ML Engineer

Verantwoord datamanagement in de praktijk

Complex

Bevat afwegingen

Professioneel oordeel

Responsible AI: blauwe cirkel met een hand die een AI-chip vasthoudt

Veelvoorkomende afwegingen

Afwegingen

Dimensies van Responsible AI

Businessfactoren

Winst boven fairness en privacy
Omzet boven testen en security

Pre-trained modellen

Kosten verlagen
Tijd en middelen besparen
Geen dataverzameling of training nodig
Mogelijk biased trainingsdata
Gebrek aan transparantie

pre-trained modellen

Gebruik van pre-trained modellen

Due diligence op herkomst model
Goede reputatie
Geloofwaardigheid
Documentatie van het model beoordelen
Extra tests op fairness en bias

Afweging van metrics

Nauwkeurigheid boven fairness
Zelfs bij gebalanceerde datasets

Afwegingen rond nauwkeurigheid

Lagere nauwkeurigheid voor specifieke groepen
Geen rekening met datakwaliteit/-kwantiteit van ondervertegenwoordigde groepen
Privacy verlaagt nauwkeurigheid

Gezichtsherkenning

Afwegingen rond robuustheid

Afweging van metrics

Robuustheid versus bias
Robuustheid versus fairness

Professioneel gedrag en zorgplichten

Code of ethics en gedrag
Richtlijnen verschillen per land en organisatie
Verantwoordelijkheid, geen schade, fairness
Privacy en vertrouwelijkheid van gebruikers
Positieve maatschappelijke impact
Handhaaf hoge standaarden
Ontwikkel robuuste en veilige systemen
Inclusief en niet‑discriminerend

ACM

¹ https://www.acm.org/code-of-ethics

Laten we oefenen!

Verantwoord AI-gegevensbeheer

Preparing Video For Download...