Зменшення упереджень в аналізі даних

Опановуємо упередженість у даних

Konstantinos Kattidis

Data Analytics Lead

Подолання когнітивних упереджень

• Активно ставте під сумнів припущення
• Будьте відкриті до альтернативних тлумачень даних
• Перевіряйте власні переконання, шукаючи, де ми помиляємось
• Такий підхід називають негативним тестуванням гіпотез

 

Подолання упереджень у звітуванні

• Організаціям слід формувати культуру прозорості, підзвітності та етичної поведінки

• Запровадження стандартизованих протоколів звітування
• Це допоможе забезпечити неупереджене й повне звітування про дані

Процеси ухвалення рішень

• Запроваджуйте структуровані процеси ухвалення рішень, що заохочують критичне мислення та різні погляди
  • Проводьте рецензування колегами
  • Запитуйте зворотний зв'язок щодо методологій аналізу

Боротьба з упередженнями в алгоритмах

• Організаціям слід пріоритезувати справедливість, прозорість і підзвітність у розробці та впровадженні алгоритмів
• Ретельно оцінювати тренувальні дані на репрезентативність і різноманіття
• Оцінювати роботу алгоритмів у різних демографічних групах
• Підвищувати етичну обізнаність серед дата-сайєнтистів

Проєктування алгоритмів з урахуванням упереджень

• Продумана інженерія ознак
  • Вибір і створення ознак в алгоритмі з урахуванням різних перспектив і атрибутів
• Обмеження справедливості
  • Врахування критеріїв справедливості безпосередньо під час навчання моделі
  • Наприклад, алгоритм забезпечує подібний розподіл за статтю чи категоріями доходу

Виявлення алгоритмічної упередженості

• Змагальне навчання
  • Передбачає тренування моделей на змагальних прикладах, спеціально створених для виявлення й зменшення упереджень

• Аудити упередженості
  • Систематична оцінка моделей на упередженість із використанням спеціалізованих методик і метрик (напр., demographic parity)

Інтеграція пояснюваного ШІ

• Пояснюваний ШІ відіграє важливу роль у зменшенні упередженості
• Він дає змогу зрозуміти, як алгоритми ухвалюють рішення
• Користувачі даних можуть ефективніше виявляти й усувати потенційні упередження

Інтеграція стратегій зменшення упередженості

• Організаціям слід застосовувати цілісний підхід і поєднувати стратегії для подолання цих упереджень
• Так вони підвищать цілісність, надійність і справедливість своїх аналізів даних

Давайте потренуємось!

Опановуємо упередженість у даних