Zewnętrzne zagrożenia w AI
Bezpieczeństwo AI i zarządzanie ryzykiem
Angeline Corvaglia
Founder and Digital Transformation Expert
Zagrożenia wewnętrzne
W obszarze projektu lub danych
Zagrożenia zewnętrzne
Podmioty zewnętrzne
- Manipulują modelem
- Atakują różne aspekty
Typowe zagrożenia zewnętrzne
Ataki z użyciem wrogich danych wejściowych
- Wpływają na fazę wnioskowania (przy napotkaniu nowych danych)
- Zaburzają proces podejmowania decyzji
Przykład
- Drobna modyfikacja obrazu
- Błędna klasyfikacja
Uszkodzenie i zatruwanie danych
- Wpływają na fazę trenowania
- Naruszają integralność procesu uczenia
Przykład
- Fałszywe recenzje produktów
- Zaburzają działanie systemu rekomendacji w e-commerce
Kradzież i inwersja modelu
- Skierowane na wrażliwe dane
- Wykorzystują sam model
Przykład
- Użycie zmanipulowanych danych wejściowych w celu ujawnienia prywatnych danych treningowych
Ataki na infrastrukturę
- Atakują środowiska fizyczne i wirtualne
- Wymierzone w infrastrukturę
Przykład
- Zasypanie serwerów AI żądaniami, aby je przeciążyć i uniemożliwić dostęp
Ataki na łańcuch dostaw
- Naruszają komponenty lub biblioteki
- Wykorzystują elementy składowe modeli AI
Przykład
- Wstrzyknięcie luki w powszechnie używanej bibliotece
Najlepsze praktyki bezpieczeństwa
Więcej dobrych praktyk
Zagrożenia ewoluują szybko
