Externí rizika v AI

Bezpečnost a řízení rizik v oblasti AI

Angeline Corvaglia

Founder and Digital Transformation Expert

externí rizika

Interní rizika

V rámci návrhu nebo dat

oddělovač

Externí rizika

Vnější aktéři

Manipulace s modelem

Zaměřeni na různé aspekty

Běžná externí rizika

znázornění externích rizik

Útoky na vstupy (adversarial)
Poškození a otrávení dat
Krádež a inverze modelu
Útoky na infrastrukturu
Útoky na dodavatelský řetězec

Adversariální útoky na vstupy

Dopad na fázi inference (při setkání s novými daty)
Ovlivnění rozhodování

oddělovač

Příklad

Mírná úprava obrázku
Chybná klasifikace

znázornění adversariálních útoků na vstupy

Poškození a otrávení dat

Dopad na fázi trénování
Cílem je integrita učení

žárovka

Příklad

Falešné recenze produktů
Ovlivnění doporučovacího systému e-shopu

znázornění poškození dat

Krádež a inverze modelu

znázornění inverze modelu

Cílem jsou citlivé informace
Využívají samotný model

žárovka

Příklad

Manipulované vstupy k odhalení soukromých trénovacích dat

Útoky na infrastrukturu

znázornění útoků na infrastrukturu

Cílem jsou fyzická i virtuální prostředí
Útok na infrastrukturu

žárovka

Příklad

Zahlcení AI serverů požadavky – přetížení a nedostupnost

Útoky na dodavatelský řetězec

znázornění útoků na dodavatelský řetězec

Kompromitace komponent nebo knihoven
Zneužití stavebních bloků AI modelů

žárovka

Příklad

Vložení zranitelnosti do široce používané knihovny

Bezpečnostní osvědčené postupy

Pravidelné bezpečnostní audity
Validace a sanitace dat
Silná kontrola přístupu
Šifrování citlivých dat
Anonymizace dat

znázornění sady nástrojů

Další osvědčené postupy

Průběžné monitorování
Používání ověřených nástrojů
Pravidelná aktualizace nástrojů
Průběžné vzdělávání

znázornění osvědčených postupů

Rizika se rychle vyvíjejí

Průběžná adaptace
Kontinuální učení
Proaktivní řízení rizik
Bdělost

znázornění rychlé změny

Pojďme si procvičit!

Bezpečnost a řízení rizik v oblasti AI