Что делать с предвзятостью данных?

Введение в этику данных

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Что такое предвзятость?

Иллюстрация предвзятого суждения.

  • Первое понятие в этике данных
  • Предубеждение — за или против человека, группы, идеи — несправедливо
  • Этика данных — предвзятость данных
  • Недо-, пере- или неверное представление
  • Использование предвзятых данных в принятии решений — опасно
1 Иконка создана noomtah с сайта www.flaticon.com
Введение в этику данных

Везде и всегда

  • На всех этапах жизненного цикла данных
  • Сбор данных
  • Очистка, подготовка, разработка
  • Разметка данных

Иллюстрация предвзятости данных на разных этапах жизненного цикла, приводящей к предвзятым алгоритмам

Введение в этику данных

Виды предвзятости данных

  • Технические и статистические виды предвзятости

    • Выборочная предвзятость — репрезентативность
    • Предвзятость измерений
    • Предвзятость самооценки
    • Предвзятость разметки

  • Человеческая и системная предвзятость

    • Гендерная
    • Этническая / меньшинства
    • Культурная

Иллюстрация искажённого объекта и его реального изображения.

1 Иконка создана Flowicon с сайта www.flaticon.com
Введение в этику данных

Репрезентативность имеет значение

Скриншот выступления Джой на TED: она в белой маске

  • Недостаточная репрезентативность данных
  • Распознавание лиц — точнее при наличии белой маски
  • От сенсоров мыла до результатов медицинской диагностики
  • Рекомендуется к просмотру: «Coded Bias»
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Введение в этику данных

Отражение наших стереотипов

Иллюстрация различных симптомов сердечного приступа: у мужчины — боль в груди, у женщины — боль в спине.

  • Медицинские исследования и данные исторически собирались на белых мужчинах
  • Например, симптомы сердечного приступа у мужчин и женщин различаются
  • Что произойдёт, если диагностическое приложение использует такие данные?
1 https://womeningh.org/
Введение в этику данных

Серьёзные последствия

Скриншот диагностики медицинского приложения: симптомы сердечного приступа у мужчины и женщины.

  • Симптомы сердечного приступа — экстренный случай для мужчины, паническая атака для женщины
Введение в этику данных

Их огромное множество!

Иллюстрация различных когнитивных искажений.

1 CC BY, John Manoogian III (JM3)
Введение в этику данных

Верхушка айсберга

Иллюстрация айсберга: статистические предвзятости на вершине, человеческие и системные — под водой

  • Статистические предвзятости — лишь верхушка айсберга
  • Человеческая и системная предвзятость требуют изменений в отношениях и обществе
  • Тестирование, предотвращение и снижение предвзятости, открытость к обратной связи
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Введение в этику данных

Давайте потренируемся!

Введение в этику данных

Preparing Video For Download...