Вплив упередженості даних на ухвалення рішень

Опановуємо упередженість у даних

Konstantinos Kattidis

Data Analytics Lead

Упередженість і етика даних

• Рішення надійні лише настільки, наскільки надійні дані за ними
• Коли дані не відповідають цілям, це стає питанням етики даних
• Вона охоплює етичні та моральні зобов'язання зі збору, аналізу й використання даних
• Вона розглядає питання дискримінації, приватності, прозорості та підзвітності.

Несправедливе ставлення і дискримінація

• Упереджені дані можуть призводити до несправедливого ставлення до людей чи груп
• Такі дані дають дискримінаційні результати
• Наприклад:
  • Упереджена вибірка даних про покупки клієнтів може мимоволі обмежити окремі демографічні групи
  • Це веде до упереджених маркетингових стратегій

Підсилення стереотипів

• Моделі, навчені на упереджених даних, можуть засвоювати й підсилювати наявні суспільні упередження
• Якщо тренувальні дані рекомендаційного алгоритму переважно містять контент з певної політичної ідеології
• Алгоритм може радити контент, що відповідає домінівній ідеології

Втрата довіри та юридичні наслідки

• Коли упереджені рішення стають відомі, це підриває довіру до даних
• У гіршому разі це спричиняє юридичні та етичні проблеми
• Може призвести до судових позовів і репутаційних втрат для організації

Гальмування результативності та інновацій

• Упередженість веде до неефективних рішень і гальмує результативність та інновації
• Наприклад:
  • Через упередженість знижується завантаженість певної команди
  • Це спричиняє хибні оцінювання ефективності
  • Впливає на розподіл ресурсів, ефективність процесів та інновації

Цикл зворотного зв'язку упередженості

• Упередження створюють цикл зворотного зв'язку, де історичні перекоси підсилюються й відтворюються з часом
• Коли ухвалюють упереджені рішення, вони формують нові упереджені дані, що далі впливають на майбутні рішення

Давайте потренуємось!

Опановуємо упередженість у даних