Rámce pro hodnocení rizik AI
Bezpečnost a řízení rizik v oblasti AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Formální hodnocení rizik
- Co zahrnují
- Proč jsou důležitá
- Jak mohou řídit úsilí
V kombinaci s průběžnými interními kontrolními mechanismy
Jaké jsou přínosy?
Prvky hodnocení rizik
EU AI Act
Hodnocení rizik je základním kamenem
- Nepřijatelné riziko
- Vysoké riziko
- Omezené riziko
- Minimální riziko
Pro vysoce rizikové systémy AI
- Hodnocení rizik
- Systém řízení rizik
Interní kontrolní mechanismy
- Zachytit nová rizika nebo neočekávané chování
- Nastaveny na základě hodnocení rizik
- Fungují jako systém včasného varování
Příklady:
- Pravidelné testování zaujatosti
- Degradace výkonu
Nejde jen o odškrtávání políček
Hodnocení rizik poskytuje cestu
Interní kontrolní mechanismy slouží jako ochranné zábrany
Efektivní řízení rizik
- Průběžná ostražitost
- Podpořena formálními kontrolami
