Етичні аспекти ухвалення рішень

Розкриваємо суть Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Відповідальність Data Science

  • Data Science посилює ухвалення рішень у різних галузях

  • Етичне використання критично важливе для довіри та справедливості

  ethical.png

Розкриваємо суть Decision Science

Кейс: Optum

  • Алгоритм Optum несвідомо віддавав перевагу здоровішим пацієнтам

    • Створений для прогнозу потреб у догляді, він пріоритизував тих, хто більше витрачав на медицину

  • Упередження виникло через хибні припущення про дані

    • Використання витрат як замінника потреби призвело до расових диспропорцій і зневаги до тих, хто має гірший доступ до допомоги

  optum.png

Розкриваємо суть Decision Science

Справедливість

fairness.png

Приватність і безпека

privacy.png

Прозорість і відтворюваність

transp.png

Соціальний вплив даних

socialimpact.png

Розкриваємо суть Decision Science

Упередження в моделях машинного навчання

  bias data.png

Упереджені дані = упереджені результати

  • Моделі машинного навчання віддзеркалюють упередження та прогалини даних, на яких їх навчають

 

Справедливість можна виміряти

  • Оцінюйте якість моделі для різних груп, щоб перевірити справедливість
Розкриваємо суть Decision Science

Захист даних

Фахівці з ухвалення рішень і організації мають забезпечити безпечну та відповідальну роботу з даними

Включає:

  • Захищену інфраструктуру з актуальними засобами захисту
  • Обмежений доступ: лише мінімум даних, потрібний для ролі
  • Збір персональних даних на основі згоди

Чому це важливо:

  • Порушення знижують довіру
  • Можуть призвести до судових позовів
  • Псують репутацію та прибутковість

dataprotection.png

Розкриваємо суть Decision Science

Прозорість

 

Забезпечує зрозумілість і підзвітність

  • Звітуйте про джерела даних, кроки очищення, методи аналізу, зібрані метрики та рівні невизначеності

Відтворюваність

 

Відтворюваність формує довіру та авторитет

  • Інші мають змогти повторити аналіз з тими самими даними й методами та отримати ті самі результати
Розкриваємо суть Decision Science

Етика в основі науки про рішення

Етичні міркування — невід'ємна частина відповідальної науки про рішення

  • Етика не опція — це необхідність
  • Пріоритезуйте справедливість, рівність і суспільну користь
  • Застосовуйте етичні принципи на всьому життєвому циклі даних

ethicssummary.png

Розкриваємо суть Decision Science

Давайте потренуємось!

Розкриваємо суть Decision Science

Preparing Video For Download...