Виміри відповідальних даних

Відповідальне керування даними для ШІ

Maria Prokofieva

Lead ML Engineer

Відповідальне управління даними

  • Етичне управління даними
  • Оцінюйте моделі технічними метриками
  • Відповідальний ШІ

Виміри відповідальних даних

Відповідальне керування даними для ШІ

У цьому курсі

  • Представлення вимірів і метрик відповідального ШІ
  • Застосування в реальному світі
  • Огляд регулювання та ліцензування
  • Керування даними та отримання
  • Валідація і пом'якшення упереджень
Відповідальне керування даними для ШІ

Законність

  • Відповідність законам і нормам
  • Забезпечує коректне збирання, обробку та використання даних
  • Приклади законів і норм:
    • Закони про захист даних
    • Закони про права людини
    • Етичні норми щодо стейкголдерів
    • Можуть різнитись залежно від органу чи країни

Завжди перевіряйте, що саме застосовується!

Виміри відповідальних даних: законність

Відповідальне керування даними для ШІ

Справедливість

  • Алгоритми й практики роботи з даними не створюють нерівності
  • Ставтеся до всіх справедливо, без дискримінації

Виміри відповідальних даних: справедливість

Відповідальне керування даними для ШІ

Прозорість і підзвітність

  • Як використовують дані
  • Як розробляють модель
  • Як ухвалюють рішення
  • Пояснюйте ШІ
  • Формуйте довіру стейкголдерів

Виміри відповідальних даних: прозорість і підзвітність

Відповідальне керування даними для ШІ

Різноманітність і інклюзія

  • Різноманітність даних
  • Різні погляди та досвіди
  • Ключ до пом'якшення упереджень

Виміри відповідальних даних: різноманітність і інклюзія

Відповідальне керування даними для ШІ

Приватність і безпека

  • Захист персональних і чутливих даних
  • Повага та захист прав людини
  • Захищайте дані й моделі від несанкціонованого доступу

Виміри відповідальних даних: приватність і безпека

Відповідальне керування даними для ШІ

Інструмент найму Amazon AI

  • Amazon: 2015–2017
  • Автоматизований відбір талантів
  • Використання ШІ для оцінювання кандидатів
  • Спричинило скандал і згортання ініціативи

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Відповідальне керування даними для ШІ

Виклики моделей ШІ

Що пішло не так?

  • Не гендерно нейтральний
  • Незбалансовані тренувальні дані
  • Для оцінки ШІ використовували лише технічні метрики

незбалансовані дані

Відповідальне керування даними для ШІ

Давайте потренуємось!

Відповідальне керування даними для ШІ

Preparing Video For Download...