Проблемы ответственного ИИ

Ответственное управление данными в ИИ

Maria Prokofieva

Lead ML Engineer

Ответственное управление данными на практике

Сложность

Компромиссы

Профессиональное суждение

Ответственный ИИ: синий круг с рукой, держащей изображение чипа ИИ

Типичные компромиссы

Компромиссы

Измерения ответственного ИИ

Бизнес-факторы

Прибыль в ущерб справедливости и конфиденциальности
Доход в ущерб тестированию и безопасности

Предобученные модели

Снижение затрат
Экономия времени и ресурсов
Не требует сбора данных и обучения
Возможна предвзятость обучающих данных
Недостаточная прозрачность

Предобученные модели

Использование предобученных моделей

Проверка источника модели
Хорошая репутация
Надёжность
Изучение документации модели
Дополнительные тесты на справедливость и предвзятость

Компромисс метрик

Точность в ущерб справедливости
Даже при сбалансированных данных

Компромиссы точности

Низкая точность для отдельных групп
Качество и объём данных для недопредставленных групп не учитываются
Конфиденциальность снижает точность

Распознавание лиц

Компромиссы устойчивости

Компромисс метрик

Устойчивость против предвзятости
Устойчивость против справедливости

Профессиональная этика и обязанности по соблюдению стандартов

Кодекс этики и поведения
Требования варьируются по странам и организациям
Ответственность, ненанесение вреда, справедливость
Конфиденциальность пользователей
Положительное влияние на общество
Высокие стандарты работы
Разработка надёжных и безопасных систем
Инклюзивность и недискриминация

ACM

¹ https://www.acm.org/code-of-ethics

Давайте потренируемся!

Ответственное управление данными в ИИ

Preparing Video For Download...