Пом'якшення упереджень

Відповідальне керування даними для ШІ

Maria Prokofieva

Lead ML engineer

Ми розглянемо

• Стратегії на всіх етапах життєвого циклу проєкту
• Перевибірка та переобважування
• Перемарккування й вилучення чутливих атрибутів
• Змагальне навчання та перекалібрування моделі
• Поведінка користувачів
• Обмеження справедливості та вибір алгоритму
• Є й інші стратегії

Повернімось до упереджень

• Систематичні помилки або упередження
• Нечесні результати для груп чи окремих осіб

¹ Зображення: Streamline HQ

Упередження в межах проєкту

• У сирих даних
• На етапі препроцесінгу
• Під час моделювання
• Після розгортання

Упередження в препроцесінгу

• Перевибірка
• Переобважування
• Перемарккування
• Вилучення чутливих атрибутів

Стратегії в препроцесінгу

• Перевибірка:
  • Скоригуйте розподіл для збалансованих класів
• Переобважування:
  • Усуньте упередження вагами класів, не змінюючи розмір набору даних
• Перемарккування:
  • Оновіть мітки для точнішого цільового представлення
• Вилучення чутливих атрибутів:
  • Приберіть захищені атрибути

Упередження в моделюванні

• Упередження від алгоритму
• Змагальне навчання
• Обмеження справедливості
• Вибір алгоритму: простіші, надійніші чи узагальнювані моделі

Фінансовий радник

• Упередження через регіональні економічні відмінності
• Змагальне навчання для корекції упереджень
• Дерева рішень і регуляризовані лінійні моделі

¹ Зображення: Streamline HQ

Упередження після розгортання та у використанні

• Моніторинг упереджень, щоб запобігти дрейфу моделі
• Перекалібрування моделі
• Неправильне використання застосунку

¹ Зображення: Streamline HQ

Фінансовий радник

Дрейф моделі:

• Недопредставлена фриланс-економіка

Неправильне використання:

• Оновлення фінансових даних

¹ Зображення: Streamline HQ

Давайте потренуємось!

Відповідальне керування даними для ШІ