Етика даних і етика ШІ

Вступ до етики даних

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Що таке ШІ?

Ілюстрація ШІ з вхідними даними та рішенням моделі.

  • ШІ поєднує алгоритми й надійні набори даних, щоб розв'язувати задачі
  • Потужний ШІ потребує великих наборів даних
  • Величезний потенціал, але й ризики — етичні питання
Вступ до етики даних

Дані — це паливо для ШІ

Ілюстрація важливості даних для ШІ з кулінарною аналогією.

  • Моделям ШІ потрібні величезні обсяги даних; більшість зусиль у ШІ йде на дані
  • Погані дані — погані результати ШІ
  • Етика ШІ ширша за етику даних; важливо знати спільне й відмінності
1 Джерело фото: вебінар Ендрю Нґа, MLOps: From Model-centric to Data-centric AI
Вступ до етики даних

Корисне й вражаюче

Колаж: голосовий асистент, скриншот chatgpt і головна сторінка Netflix.

  • Голосові асистенти, розмовний ШІ
  • Рекомендації фільмів

Знімок рентгену молочної залози з двома пухлинами на різних стадіях розвитку

  • ШІ на благо
  • Рання діагностика раку
  • Точне землеробство — менше води й пестицидів
Вступ до етики даних

Погане й огидне

Колаж скриншотів новин про дискримінацію алгоритмів ШІ

  • Дискримінація у наймі, доступі до медицини та справедливих судах
  • Багато причин: упереджені дані, складні «чорні скриньки» моделей, брак пояснень
  • Етика ШІ виходить за межі етики даних
Вступ до етики даних

Дилеми етики ШІ

Етика ШІ виходить за межі етики даних

  • Наслідки рішень ШІ:
    • Доступ до кредитів/позик
    • Найм
  • Дискримінація ШІ
  • ШІ/роботи витісняють роботу людей
  • Чи зменшать роботи/дрони людські втрати на війні?
  • Що означає бути людиною?
  • Чи можемо закодувати мораль у ШІ?

Фото дорожнього вказівника з напрямками в протилежні боки на тлі гір.

1 Джерело фото: unsplash.com
Вступ до етики даних

Що має зробити ШІ?

  • Автомобіль із автопілотом: раптова відмова гальм
  • Продовжити рух чи звернути
  • Продовжити — загинуть жінка, чоловік і літня жінка
  • Звернути — загинуть молода жінка і двоє дітей
  • Хто несе відповідальність?

Ілюстрація етичної дилеми для безпілотного авто

1 https://moralmachine.mit.edu/
Вступ до етики даних

Етика ШІ: коротко про настанови

Багато організацій розробляють настанови з етики ШІ

  • Людська агентність і нагляд
  • Технічна надійність і безпека
  • Конфіденційність і управління даними
  • Прозорість
  • Різноманіття, недискримінація й справедливість
  • Екологічний і суспільний добробут
  • Підзвітність

Зображення інвентарю настанов з етики ШІ від AlgorithmWatch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Вступ до етики даних

Перетин із даними

  • Конфіденційність, безпека, захист даних
  • Упередження й справедливість
  • Прозорість
  • Підзвітність

Ілюстрація перетину етики даних і етики ШІ

Вступ до етики даних

Давайте потренуємось!

Вступ до етики даних

Preparing Video For Download...