Измерения ответственного использования данных

Ответственное управление данными в ИИ

Maria Prokofieva

Lead ML Engineer

Ответственное управление данными

  • Этичное управление данными
  • Оценка моделей с помощью технических метрик
  • Ответственный ИИ

Измерения ответственного использования данных

Ответственное управление данными в ИИ

О курсе

  • Измерения и метрики ответственного ИИ
  • Применение концепций на практике
  • Обзор нормативного регулирования и лицензирования
  • Управление данными и их получение
  • Валидация и снижение предвзятости
Ответственное управление данными в ИИ

Законность

  • Соответствие законам и нормативным требованиям
  • Гарантирует корректный сбор, обработку и использование данных
  • Применимые законы и нормативные акты:
    • Законы о защите данных
    • Законы о правах человека
    • Этические нормы в отношении стейкхолдеров
    • Могут различаться в зависимости от страны или регулятора

Всегда проверяйте, что применимо в вашем случае!

Измерения ответственного использования данных: законность

Ответственное управление данными в ИИ

Справедливость

  • Алгоритмы и работа с данными не должны порождать неравенство
  • Справедливое отношение ко всем без дискриминации

Измерения ответственного использования данных: справедливость

Ответственное управление данными в ИИ

Прозрачность и подотчётность

  • Как используются данные
  • Как разрабатывается модель
  • Как принимаются решения
  • Объяснимость ИИ
  • Доверие стейкхолдеров

Измерения ответственного использования данных: прозрачность и подотчётность

Ответственное управление данными в ИИ

Разнообразие и инклюзивность

  • Разнообразие данных
  • Разные точки зрения и опыт
  • Ключевой фактор снижения предвзятости

Измерения ответственного использования данных: разнообразие и инклюзивность

Ответственное управление данными в ИИ

Конфиденциальность и безопасность

  • Защита персональных и конфиденциальных данных
  • Соблюдение и защита прав личности
  • Защита данных и моделей от несанкционированного доступа

Измерения ответственного использования данных: конфиденциальность и безопасность

Ответственное управление данными в ИИ

Инструмент найма ИИ от Amazon

  • Amazon: 2015–2017
  • Автоматизированный подбор персонала
  • Использование ИИ для оценки кандидатов
  • Скандал и закрытие проекта

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Ответственное управление данными в ИИ

Проблемы моделей ИИ

Что пошло не так?

  • Отсутствие гендерного нейтралитета
  • Несбалансированные обучающие данные
  • Оценка ИИ только по техническим метрикам

несбалансированные данные

Ответственное управление данными в ИИ

Давайте потренируемся!

Ответственное управление данными в ИИ

Preparing Video For Download...