Bezpečnostní rizika specifická pro AI

Bezpečnost a řízení rizik v oblasti AI

Angeline Corvaglia

Founder and Digital Transformation Specialist

Důležitost řízení rizik

• Využívat přínosy bezpečně a zodpovědně
• Přístup k bezpečnosti se musí změnit
• Tradiční bezpečnostní strategie nestačí

Představte si dopady integrace AI jako minci:

• Potenciál
• Bezpečnostní rizika

Nenápadná, ale nebezpečná rizika

• Zkreslení
• Halucinace
• Otrava dat
• Adversariální útoky
• Únik citlivých dat

Zkreslení AI v systému náboru zaměstnanců

1. Trénink AI na historických datech
2. Odráží minulé předsudky
3. Zkreslení se zesiluje
4. Klesající důvěra v organizaci

Manipulace s platformou pro online nakupování

1. Platforma s doporučovacím systémem AI
2. Vložení falešných dat
3. AI doporučí nepopulární nebo škodlivé produkty
4. Řada potenciálních důsledků

Zkreslení AI

Bleskově rychlá rozhodnutí zesilují dopad zkreslení

Nespravedlivé zvýhodňování nebo poškozování

Nerovné výsledky alarmující rychlostí

Halucinace

• Prezentuje nesprávné nebo zavádějící informace jako pravdu

Může vést k:

• Chybným rozhodnutím
• Dezinformacím a ztrátě důvěry

Otrava dat

Záměrná manipulace s trénovacími daty

Způsobuje odklon systému AI od správného chování

• Nesprávné předpovědi nebo rozhodnutí
• Závažné důsledky

Adversariální útoky

Podávání zavádějících vstupů

• Během provozu
• Obtížně odhalitelné
• Ohrožení integrity

Únik citlivých dat

Velké množství dat pro trénink a provoz.

Riziko úniku citlivých dat při nedostatečném zabezpečení

Porozumět rizikům, abyste je mohli řídit

Proaktivní zmírňování rizik

• Předvídat rizika
• Znát ekosystém bezpečnosti AI
• Zajistit odolnost bezpečnosti AI do budoucna
• Budovat kulturu bezpečnostního povědomí
• Rozumět rizikům modelu i externím rizikům
• Sladit bezpečnost AI s cíli organizace

Pojďme na to!

Bezpečnost a řízení rizik v oblasti AI