Ryzyka modeli
Bezpieczeństwo AI i zarządzanie ryzykiem
Angeline Corvaglia
Founder and Digital Transformation Expert
Monitorowanie ryzyka w cyklu życia
Podczas tworzenia modelu
- Rzetelne i dokładne dane
- Skuteczne uczenie
- Skutki wdrożenia wadliwego systemu
Po wdrożeniu
- Modele mogą zmieniać się (dryfować) w czasie
- Prowadzić do stronniczych lub niedokładnych wyników
Siedem typowych ryzyk modeli
Przejrzystość
- Jak modele AI podejmują decyzje
Wyjaśnialność
- Dlaczego model generuje określone wyniki
W obszarach wrażliwych – jak ochrona zdrowia czy finanse
- Proces podejmowania decyzji
- Równie ważny jak sama decyzja
Stronniczość
Halucynacja
Dryf modelu
Skuteczne i dokładne uczenie
Przeuczenie (overfitting)
- Zapamiętuje zbyt wiele szczegółów
Niedouczenie (underfitting)
- Model zbyt prosty, by się uczyć
Wyciek danych
- Dane zewnętrzne trafią do zbioru treningowego
Wyjaśnialna sztuczna inteligencja (XAI)
Solidniejsze, rzetelniejsze i bezpieczniejsze systemy AI
- Środki bezpieczeństwa
- Odpowiedzialne tworzenie
- Długofalowy wpływ
Powinny przynosić korzyści wszystkim
