Этические аспекты принятия решений

Демистификация науки о принятии решений

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Ответственность Data Science

  • Data Science влияет на принятие решений во многих отраслях

  • Этичное применение — основа доверия и справедливости

  ethical.png

Демистификация науки о принятии решений

Пример: Optum

  • Алгоритм Optum непреднамеренно отдавал предпочтение более здоровым пациентам

    • Созданный для прогнозирования потребностей в уходе, он ориентировался на пациентов с более высокими расходами на здравоохранение

  • Предвзятость возникла из-за ошибочных допущений в данных

    • Использование расходов как показателя потребности привело к расовому неравенству и поставило в невыгодное положение тех, кто имел меньший доступ к медицинской помощи

  optum.png

Демистификация науки о принятии решений

Справедливость

fairness.png

Конфиденциальность и безопасность

privacy.png

Прозрачность и воспроизводимость

transp.png

Социальное влияние данных

socialimpact.png

Демистификация науки о принятии решений

Предвзятость в моделях машинного обучения

  bias data.png

Предвзятые данные — предвзятый результат

  • Модели машинного обучения воспроизводят предвзятость и пробелы в данных, на которых обучаются

 

Справедливость поддаётся измерению

  • Оценивайте производительность модели в разных группах, чтобы проверить её справедливость
Демистификация науки о принятии решений

Защита данных

Специалисты по данным и организации обязаны обеспечивать безопасную и ответственную работу с данными

Это включает:

  • Защищённую инфраструктуру с актуальными средствами защиты
  • Ограниченный доступ: только минимально необходимые данные для каждой роли
  • Сбор персональных данных только с согласия пользователя

Почему это важно:

  • Утечки подрывают доверие
  • Могут повлечь судебные иски
  • Наносят ущерб репутации и прибыли

dataprotection.png

Демистификация науки о принятии решений

Прозрачность

 

Обеспечивает ясность и подотчётность

  • Фиксируйте источники данных, шаги очистки, методы анализа, собранные метрики и уровни неопределённости

Воспроизводимость

 

Воспроизводимость укрепляет доверие и авторитет

  • Другие исследователи должны иметь возможность повторить анализ на тех же данных и методах и получить те же результаты
Демистификация науки о принятии решений

Этика в основе науки о принятии решений

Этические соображения — неотъемлемая часть ответственной науки о принятии решений

  • Этика не опциональна — она обязательна
  • Ставьте во главу угла справедливость и пользу
  • Применяйте этические принципы на всех этапах работы с данными

ethicssummary.png

Демистификация науки о принятии решений

Давайте потренируемся!

Демистификация науки о принятии решений

Preparing Video For Download...