Kewajiban penyedia berisiko tinggi

Memahami EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Konsep tujuan penggunaan

AI Act menyeimbangkan kewajiban pembuat dan pengguna
Bertumpu pada konsep “tujuan penggunaan”

Gambar menyeimbangkan pembuat dan pengguna

Konsep tujuan penggunaan

Contoh:

AI identifikasi hewan

Gambar penggunaan AI untuk identifikasi hewan

Konsep tujuan penggunaan

Contoh:

AI identifikasi hewan
Dipakai untuk penetapan harga asuransi jiwa
Penyalahgunaan, tidak disarankan dan mungkin tidak efektif
Perusahaan pembuat sistem tidak berkewajiban di bawah AI Act
- Membuat sistem AI tanpa risiko
Kewajiban ada pada pihak yang menerapkan

Gambar penggunaan AI untuk penetapan harga asuransi jiwa

Konsep tujuan penggunaan

Menyesuaikan produk dengan kebutuhan

Penilaian kesesuaian

Penyedia sistem AI berisiko tinggi harus melakukan dan mendokumentasikan “penilaian kesesuaian” untuk memastikan keamanan dan kepatuhan, yang dapat dinilai sendiri.

Manajemen risiko dan tata kelola

Penyedia memerlukan sistem manajemen risiko untuk mengidentifikasi dan mengurangi risiko

Tata kelola data harus memastikan data pelatihan tidak bias dan sesuai tujuan, dengan mempertimbangkan dampak pada berbagai kelompok

Dokumentasi

CleanShot 2024-07-31 at 11.34.15.png

Penyedia harus membuat dokumentasi rinci dan memungkinkan pencatatan untuk kepatuhan dan keterlacakan
Beri informasi kepada pengguna penerap tentang fitur, penggunaan yang benar, batasan, dan potensi penyalahgunaan
Pastikan pengawasan manusia serta langkah akurasi, ketangguhan, dan keamanan siber

Kewajiban lain

Memastikan kepatuhan

Ayo berlatih!

Memahami EU AI Act