Meжі машинного навчання

Розуміння машинного навчання

Sara Billen

Curriculum Manager, DataCamp

Якість даних

Сміття на вході — сміття на виході

  • Сміття на вході — сміття на виході
  • Якість виходу залежить від якості входу
Розуміння машинного навчання

Як усе може піти геть погано

Рекрутинг-інструмент Amazon із гендерною упередженістю

Робот розглядає людей крізь лупу

  • ПЗ для відбору резюме
  • Надавало перевагу чоловікам, бо навчалось на історичних даних із більшою часткою чоловіків
  • Занижувало оцінку резюме, що
    • містили слово "women"
    • натякали, що кандидатка — жінка
Розуміння машинного навчання

Як усе може піти геть погано

Чат-бот ШІ від Microsoft

Обліковий запис Tay у Twitter

Приклади твітів Tay

Розуміння машинного навчання

Обережно

попереджувальний знак

  • Не довіряйте моделі наосліп
  • Обізнаність — ключова
  • Уважно ставтеся до своїх даних

$$

Модель машинного навчання настільки добра, наскільки добрі дані, які ви їй даєте

Розуміння машинного навчання

Забезпечення якості

  • Якісні дані вимагають:
    • Аналізу даних
    • Перегляду викидів
    • Галузевої експертизи
    • Документації

лупа над даними

Розуміння машинного навчання

Пояснюваність

Розуміння машинного навчання

Пояснюваність

  • Прозорість підвищує довіру, ясність і розуміння
  • Використання: впровадження в бізнесі, регуляторний нагляд, мінімізація упереджень
Розуміння машинного навчання

Пояснюваний ШІ

«Чорна скринька»

  • Глибоке навчання
  • Краще для «Що?»
  • Дуже точні передбачення

Пояснюваний ШІ

  • Традиційне машинне навчання
  • Краще для «Чому?»
  • Зрозумілий для людей
Розуміння машинного навчання

Приклад: Пояснюваний ШІ

insurance-customer-churn-analytics.jpg

  1. Прогноз: Чи захворіє пацієнт на діабет?
  2. Пояснення: Чому це може статися
Розуміння машинного навчання

Приклад: Непояснюваний ШІ

Handwriting.jpg

Лише прогноз: Яка це, ймовірно, літера?

Розуміння машинного навчання

Давайте потренуємось!

Розуміння машинного навчання

Preparing Video For Download...