Этика данных и этика ИИ

Введение в этику данных

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Что такое ИИ?

Иллюстрация ИИ с входными данными и решением модели.

  • ИИ объединяет алгоритмы и обширные наборы данных для решения задач
  • Мощный ИИ требует больших объёмов данных
  • Огромный потенциал, двойственный характер, этические вопросы
Введение в этику данных

Данные — топливо для ИИ

Иллюстрация важности данных для ИИ с кулинарной аналогией.

  • Модели ИИ требуют огромного количества данных; большая часть усилий тратится именно на них
  • Низкое качество данных ведёт к плохим результатам ИИ
  • Этика ИИ шире этики данных — важно понимать сходства и различия
1 Источник фото: вебинар Эндрю Ына «MLOps: от модели к данным в ИИ»
Введение в этику данных

Хорошее и удивительное

Коллаж из голосового помощника, скриншота ChatGPT и главной страницы Netflix.

  • Голосовые помощники, разговорный ИИ
  • Рекомендации фильмов

Рентгеновский снимок груди с двумя опухолями на разных стадиях роста.

  • ИИ во благо
  • Ранняя диагностика рака
  • Точное земледелие — сокращение расхода воды и пестицидов
Введение в этику данных

Плохое и опасное

Коллаж со скриншотами новостей о дискриминации со стороны алгоритмов ИИ.

  • Дискриминация при найме, в доступе к медицине и в судопроизводстве
  • Причины: предвзятые наборы данных, сложные непрозрачные модели, отсутствие объяснений
  • Этика ИИ выходит за рамки этики данных
Введение в этику данных

Дилеммы этики ИИ

Этика ИИ шире этики данных

  • Последствия принятия решений ИИ:
    • Доступ к кредитам / займам
    • Наём на работу
  • Дискриминация со стороны ИИ
  • ИИ / роботы, вытесняющие людей с рынка труда
  • Сократят ли роботы / дроны потери среди людей на войне?
  • Что значит быть человеком?
  • Можно ли заложить мораль в ИИ?

Дорожный знак, указывающий в противоположные стороны, на фоне горного пейзажа.

1 Источник фото: unsplash.com
Введение в этику данных

Как должен поступить ИИ?

  • Беспилотный автомобиль с отказом тормозов
  • Продолжать движение или свернуть
  • Прямо: погибнут женщина, мужчина и пожилая женщина
  • Свернуть: погибнут молодая женщина и двое детей
  • Кто несёт ответственность?

Иллюстрация этической дилеммы беспилотного автомобиля.

1 https://moralmachine.mit.edu/
Введение в этику данных

Принципы этики ИИ: кратко

Многие организации разрабатывают руководящие принципы этики ИИ

  • Права человека и надзор
  • Техническая надёжность и безопасность
  • Конфиденциальность и управление данными
  • Прозрачность
  • Разнообразие, недискриминация и справедливость
  • Экологическое и социальное благополучие
  • Подотчётность

Каталог руководящих принципов этики ИИ от AlgorithmWatch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Введение в этику данных

Область пересечения

  • Конфиденциальность, безопасность, защита данных
  • Предвзятость и справедливость
  • Прозрачность
  • Подотчётность

Иллюстрация пересечения этики данных и этики ИИ.

Введение в этику данных

Давайте потренируемся!

Введение в этику данных

Preparing Video For Download...