Що робити з упередженнями в даних?

Вступ до етики даних

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Що таке упередження?

Ілюстрація упередженого судження.

  • Перша асоціація в етиці даних
  • Упередженість — за чи проти людини, групи або ідеї — несправедливо
  • Етика даних — упередження в даних
  • Недо-, пере- або хибне представлення
  • Шкода, якщо упереджені дані застосовують у прийнятті рішень
1 Icon made by noomtah from www.flaticon.com
Вступ до етики даних

Будь-коли й будь-де

  • На всіх етапах життєвих циклів даних і продукту
  • Збирання даних
  • Очищення, підготовка, розроблення
  • Розмічення даних

Ілюстрація упереджень на різних етапах життєвого циклу даних, що живлять упереджені алгоритми

Вступ до етики даних

Специфічні для даних упередження

  • Технічні або статистичні упередження процесу

    • Вибіркове упередження — представність
    • Вимірювальне упередження
    • Упередження самооцінювання
    • Упередження розмітки

  • Людські та системні упередження

    • Гендер
    • Етнічність/меншини
    • Культура

Ілюстрація викривленого об'єкта проти його реального зображення.

1 Icon made by Flowicon from www.flaticon.com
Вступ до етики даних

Представлення має значення

Скріншот виступу Joy на TED із фото, де вона в білій масці

  • Брак репрезентативних даних
  • Розпізнавання облич — кращі результати з білою маскою
  • Від дозаторів мила до медичних наслідків
  • Рекомендовано: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Вступ до етики даних

Дзеркало наших стереотипів

Ілюстрація різних симптомів серцевого нападу: у чоловіка — стискання в грудях, у жінки — біль у спині.

  • Медичні дослідження й дані історично базувалися на білих чоловіках
  • Напр., симптоми інфаркту відрізняються у чоловіків і жінок
  • Що, якщо діагностичний застосунок навченo на таких даних?
1 https://womeningh.org/
Вступ до етики даних

Серйозні наслідки

Скріншот діагнозу застосунку охорони здоров'я щодо симптомів інфаркту для чоловіків і жінок.

  • Симптоми інфаркту — «невідкладно» для чоловіка, «панічна атака» для жінки
Вступ до етики даних

Їх надто багато — і стає більше!

Ілюстрація різних когнітивних упереджень.

1 CC BY, John Manoogian III (JM3)
Вступ до етики даних

Верхівка айсберга

Ілюстрація айсберга: зверху статистичні упередження, знизу — людські та системні

  • Статистичні упередження — лише верхівка айсберга
  • Людські та системні — потребують зміни ставлень і суспільства
  • Перевіряйте на упередження, запобігайте й пом'якшуйте, будьте відкриті до зворотного зв'язку
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Вступ до етики даних

Давайте потренуємось!

Вступ до етики даних

Preparing Video For Download...