Ограничения машинного обучения

Введение в машинное обучение

Sara Billen

Curriculum Manager, DataCamp

Качество данных

Мусор на входе — мусор на выходе

  • Мусор на входе — мусор на выходе
  • Качество результата зависит от качества входных данных
Введение в машинное обучение

Когда всё идёт не так

Инструмент найма Amazon с гендерной предвзятостью

Робот с лупой рассматривает людей

  • Программа для автоматического отбора резюме
  • Отдавала предпочтение мужчинам, так как обучалась на исторических данных, где мужчин нанимали чаще
  • Снижала рейтинг резюме, которые
    • содержали слово «женщины»
    • указывали на то, что соискатель — женщина
Введение в машинное обучение

Когда всё идёт не так

Чат-бот Microsoft на базе ИИ

Аккаунт Tay в Twitter

Примеры твитов Tay

Введение в машинное обучение

Будьте осторожны

Знак предупреждения

  • Не доверяйте модели слепо
  • Осознанность — ключевой фактор
  • Внимательно следите за данными

$$

Модель машинного обучения настолько хороша, насколько хороши данные, которые вы ей передаёте

Введение в машинное обучение

Контроль качества

  • Высокое качество данных требует:
    • Анализа данных
    • Изучения выбросов
    • Экспертизы в предметной области
    • Документирования

Лупа над данными

Введение в машинное обучение

Объяснимость

Введение в машинное обучение

Объяснимость

  • Прозрачность для повышения доверия, ясности и понимания
  • Применение: внедрение в бизнесе, регуляторный контроль, снижение предвзятости
Введение в машинное обучение

Объяснимый ИИ

Чёрный ящик

  • Глубокое обучение
  • Лучше отвечает на вопрос «Что?»
  • Высокоточные прогнозы

Объяснимый ИИ

  • Классическое машинное обучение
  • Лучше отвечает на вопрос «Почему?»
  • Понятен человеку
Введение в машинное обучение

Пример: объяснимый ИИ

insurance-customer-churn-analytics.jpg

  1. Прогноз: заболеет ли пациент диабетом?
  2. Вывод: почему это произойдёт?
Введение в машинное обучение

Пример: необъяснимый ИИ

Handwriting.jpg

Только прогноз: какая это буква?

Введение в машинное обучение

Давайте потренируемся!

Введение в машинное обучение

Preparing Video For Download...