高風險提供者之義務

認識 EU AI 法案

Dan Nechita

Lead Technical Negotiator, EU AI Act

「預定用途」的概念

• AI 法案兼顧建置者與使用者的義務
• 依「預定用途」概念而定

「預定用途」的概念

例子：

• 動物辨識 AI

 

「預定用途」的概念

例子：

• 動物辨識 AI
• 用於壽險定價
• 為誤用，且可能無效
• 建置該系統的公司在 AI 法案下無義務
  • 所建是零風險 AI 系統
• 義務在於部署者

 

「預定用途」的概念

符合性評估

 

高風險 AI 系統的提供者必須執行並紀錄「符合性評估」，以確保安全與合規，且可自我評估。

風險管理與治理

 

• 提供者需要風險管理制度來識別並降低風險

 

• 資料治理措施須確保訓練資料無偏、適切，並考量對各群體的影響

 

文件與說明

• 提供者須建立詳細文件並啟用紀錄保存，以便合規與可追溯
• 向部署者提供特徵、正確使用、限制與可能誤用的資訊
• 確保人為監督，並實施準確性、魯棒性與資安措施

其他義務

確保合規

一起來練習吧！

認識 EU AI 法案