Obowiązki dostawców systemów wysokiego ryzyka

Unijny akt o sztucznej inteligencji

Dan Nechita

Lead Technical Negotiator, EU AI Act

Koncepcja zamierzonego przeznaczenia

AI Act równoważy obowiązki twórców i użytkowników
Opiera się na koncepcji „zamierzonego przeznaczenia"

Obraz ilustrujący równowagę między twórcą a użytkownikiem

Koncepcja zamierzonego przeznaczenia

Przykład:

AI do identyfikacji zwierząt

Obraz przedstawiający AI do identyfikacji zwierząt

Koncepcja zamierzonego przeznaczenia

Przykład:

AI do identyfikacji zwierząt
Wykorzystana do wyceny ubezpieczeń na życie
Nadużycie niezalecane i prawdopodobnie nieskuteczne
Twórca systemu nie ma obowiązków wynikających z AI Act
- Zbudował system AI niskiego ryzyka
Obowiązki spoczywają na podmiocie wdrażającym

Obraz przedstawiający AI do wyceny ubezpieczeń na życie

Koncepcja zamierzonego przeznaczenia

Dopasowanie produktów do potrzeb

Ocena zgodności

Dostawcy systemów AI wysokiego ryzyka muszą przeprowadzić i udokumentować „ocenę zgodności" w celu zapewnienia bezpieczeństwa i zgodności – może być przeprowadzona samodzielnie.

Zarządzanie ryzykiem i nadzór nad danymi

Dostawcy muszą posiadać system zarządzania ryzykiem służący identyfikacji i ograniczaniu ryzyka

Środki zarządzania danymi muszą zapewniać bezstronne i odpowiednie dane treningowe z uwzględnieniem wpływu na różne grupy

Dokumentacja

CleanShot 2024-07-31 at 11.34.15.png

Dostawcy muszą tworzyć szczegółową dokumentację i umożliwiać rejestrowanie danych na potrzeby zgodności i identyfikowalności
Dostarczać podmiotom wdrażającym informacje o funkcjach, właściwym użyciu, ograniczeniach i możliwym nadużyciu
Zapewniać nadzór ludzki oraz wdrażać środki w zakresie dokładności, odporności i cyberbezpieczeństwa

Inne obowiązki

Zapewnienie zgodności

Czas na ćwiczenia!

Unijny akt o sztucznej inteligencji