Rizika modelů
Bezpečnost a řízení rizik v oblasti AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Sledování rizik v průběhu životního cyklu
Během vývoje
- Spravedlivá a přesná data
- Efektivní učení
- Rizika nasazení chybného systému
Po nasazení
- Modely se mohou v čase měnit (drift)
- Vedou k zkresleným nebo nepřesným výstupům
Sedm běžných rizik modelů
Transparentnost
- Jak AI modely přijímají rozhodnutí
Interpretovatelnost
- Proč model produkuje určité výstupy
V citlivých oblastech, jako je zdravotnictví nebo finance
- Proces rozhodování
- Stejně důležitý jako samotné rozhodnutí
Zkreslení
Halucinace
Drift modelu
Efektivní a přesné učení
Přetrénování
- Učí se příliš mnoho detailů
Podtrénování
- Příliš jednoduché na učení
Únik dat
- Externí data zahrnutá v tréninku
Vysvětlitelná AI (XAI)
Robustnější, spravedlivější a bezpečnější systémy AI
- Bezpečnostní opatření
- Zodpovědný vývoj
- Dlouhodobý dopad
Mělo by být prospěšné pro všechny
