Влияние предвзятости данных на принятие решений

Преодоление предвзятости данных

Konstantinos Kattidis

Data Analytics Lead

Предвзятость и этика данных

• Решения настолько надёжны, насколько надёжны лежащие в их основе данные
• Когда данные не соответствуют поставленным целям, возникает вопрос этики данных
• Она охватывает этические и моральные обязательства при сборе, анализе и использовании данных
• Она затрагивает такие проблемы, как дискриминация, конфиденциальность, прозрачность и подотчётность.

Несправедливое обращение и дискриминация

• Предвзятость данных может привести к несправедливому обращению с отдельными людьми или группами
• Предвзятые данные способны порождать дискриминационные результаты
• Например:
  • Предвзятая выборка данных о покупках клиентов может непреднамеренно ставить отдельные группы населения в невыгодное положение
  • Что приводит к предвзятым маркетинговым стратегиям

Закрепление стереотипов

• Модели, обученные на предвзятых данных, могут усваивать и закреплять существующие социальные предубеждения
• Предположим, что обучающие данные алгоритма рекомендаций преимущественно отражают контент определённой политической идеологии
• Алгоритм может рекомендовать контент, соответствующий доминирующей политической идеологии

Потеря доверия и юридические проблемы

• Когда предвзятость в принятии решений становится известна, это подрывает доверие к данным
• В худших случаях это влечёт юридические и этические проблемы
• Это может привести к судебным искам и репутационным потерям для организации

Снижение производительности и торможение инноваций

• Предвзятость может приводить к неоптимальным решениям и тормозить производительность и инновации
• Например:
  • Предвзятость снижает показатели использования ресурсов отдельных команд
  • Это ведёт к ошибочным оценкам результативности
  • Влияя на распределение ресурсов, эффективность процессов и инновации

Петля обратной связи предвзятости

• Предвзятость может формировать петлю обратной связи, в которой исторические предубеждения закрепляются и воспроизводятся со временем
• Предвзятые решения порождают новые предвзятые данные, которые в свою очередь влияют на будущие решения

Давайте потренируемся!

Преодоление предвзятости данных