Обязательства операторов высокого риска

Регламент ЕС об искусственном интеллекте

Dan Nechita

Lead Technical Negotiator, EU AI Act

Обязательства операторов

Изображение: операторы и поставщики

Операторы и поставщики совместно обеспечивают защиту здоровья, безопасности и основных прав при использовании систем ИИ.

Изображение: мониторинг систем

Операторы обязаны уведомлять работников об использовании ИИ при распределении задач или оценке производительности.
Операторы, применяющие ИИ высокого риска для принятия решений, должны информировать затронутых лиц.
Примеры: страховые премии, приём в учебные заведения.

Изображение: уведомление об использовании ИИ

Снимок экрана: требования для государственных органов

Государственные органы и операторы основных услуг обязаны проводить оценку воздействия на основные права (FRIA).
FRIA гарантирует соблюдение прав, аналогично DPIA в рамках GDPR.
Использование ИИ высокого риска государственными органами подлежит регистрации в базе данных ЕС.

Роли поставщиков и операторов могут пересекаться при существенных изменениях ИИ.
Изменение целевого назначения ИИ превращает оператора в поставщика с соответствующими обязательствами.
Пример: использование GPT-4 для найма делает компанию поставщиком ИИ высокого риска.

Снимок экрана: схема ролей поставщика и оператора

Пирамида рисков с четырьмя уровнями

Регламент ЕС об искусственном интеллекте