Bezpečné vývojové postupy
Bezpečnost a řízení rizik v oblasti AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Jak čelit jedinečným zranitelnostem AI
Původ a sledovatelnost dat
- Původ dat: odkud data pochází
- Sledovatelnost: sledování jejich cesty
Přínos pro bezpečnost
- Útoky na otrávení dat
- Poškozená data
Validace a sanitace
- Ověřování dat
- Čištění dat
Zajišťuje, že data jsou:
- přesná
- relevantní
- bez škodlivé manipulace
Minimalizace dat
- Omezení množství dat shromážděných a zpracovaných
- Pouze to, co je nezbytně nutné
Pomáhá snížit riziko:
- porušení soukromí
- krádeže dat
Šifrování a anonymizace
- Šifrování: Převádí citlivá data do bezpečného formátu
- Anonymizace: Odstraňuje osobně identifikovatelné informace
Přínos pro bezpečnost:
- Útoky zaměřené na extrakci citlivých informací
Bezpečné postupy kódování
- Snížení zranitelností v kódové základně
- Pravidelné revize kódu
- Skenování zranitelností
- Dodržování standardů kódování
Přínos pro bezpečnost
- Útoky na infrastrukturu
Řízení přístupu
- Omezení oprávněných osob
- Důvěryhodné a ověřené osoby nebo subjekty
Přínos pro bezpečnost
- Externí útoky zneužívající zranitelnosti
Bezpečná infrastruktura
- Ochrana hardwaru i softwaru
- Firewally
- Systémy detekce průniků
- Bezpečné cloudové služby
Přínos pro bezpečnost
- Hrozby zaměřené na infrastrukturu
Bezpečnost není jen věcí technického týmu
Společné úsilí zajišťuje, že systémy AI jsou bezpečné, důvěryhodné a spolehlivé.
