Обязательства поставщиков высокорискованных систем

Регламент ЕС об искусственном интеллекте

Dan Nechita

Lead Technical Negotiator, EU AI Act

Концепция предполагаемого назначения

Акт об ИИ распределяет обязательства между разработчиками и пользователями
Основан на концепции «предполагаемого назначения»

Изображение баланса между разработчиком и пользователем

Концепция предполагаемого назначения

Пример:

ИИ для идентификации животных

Изображение использования ИИ для идентификации животных

Концепция предполагаемого назначения

Пример:

ИИ для идентификации животных
Используется для оценки страхования жизни
Нецелевое применение не рекомендуется и, вероятно, неэффективно
Компания-разработчик не несёт обязательств по Акту об ИИ
- Создала систему ИИ без рисков
Обязательства возлагаются на оператора

Изображение использования ИИ для оценки страхования жизни

Концепция предполагаемого назначения

Адаптация продуктов к потребностям

Оценка соответствия

Поставщики высокорискованных систем ИИ обязаны провести и задокументировать «оценку соответствия» для обеспечения безопасности и соблюдения требований; самооценка допускается.

Управление рисками и данными

Поставщики должны внедрить систему управления рисками для их выявления и снижения

Меры по управлению данными должны обеспечивать объективность и пригодность обучающих данных с учётом влияния на различные группы

Документация

CleanShot 2024-07-31 at 11.34.15.png

Поставщики обязаны создавать подробную документацию и обеспечивать ведение записей для соблюдения требований и отслеживаемости
Предоставлять операторам сведения о функциях, правильном использовании, ограничениях и возможном злоупотреблении
Обеспечивать человеческий надзор, точность, надёжность и кибербезопасность

Прочие обязательства

Обеспечение соответствия требованиям

Давайте попрактикуемся!

Регламент ЕС об искусственном интеллекте