Kewajiban penerap berisiko tinggi

Memahami EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Kewajiban bagi penerap

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Penerap dan penyedia berbagi kewajiban untuk memastikan sistem AI tidak mengancam kesehatan, keselamatan, dan hak-hak fundamental.

Penerap harus memberi tahu pekerja tentang penggunaan AI untuk penugasan atau pemantauan kinerja.
Penerap yang memakai AI berisiko tinggi untuk keputusan harus memberi tahu individu yang terdampak.
Contoh: premi asuransi jiwa, penerimaan institusi pendidikan.

Cuplikan Layar 2024-07-31 pukul 08.22.39.png

Otoritas publik dan penerap layanan esensial harus melakukan penilaian dampak hak asasi (FRIA).
FRIA memastikan AI tidak melanggar hak, mirip dengan DPIA pada GDPR.
Penggunaan AI berisiko tinggi oleh otoritas publik harus didaftarkan di basis data UE.

Peran penyedia dan penerap dapat tumpang tindih saat AI dimodifikasi signifikan.
Mengubah tujuan penggunaan AI menjadikan penerap sebagai penyedia dengan kewajiban penyedia.
Contoh: Menggunakan GPT-4 untuk rekrutmen menjadikan perusahaan sebagai penyedia AI berisiko tinggi.

Cuplikan Layar 2024-07-31 pukul 11.09.50.png

Piramida risiko dengan empat tingkat.png

Memahami EU AI Act