Виклики відповідального ШІ

Відповідальне керування даними для ШІ

Maria Prokofieva

Lead ML Engineer

Відповідальне управління даними в реальному світі

Складні

Містять компроміси

Потребують професійного судження

Відповідальний ШІ: синє коло з рукою, що тримає ілюстрацію AI-чипа

Типові компроміси

Компроміси

Виміри відповідального ШІ

Бізнес-фактори

Прибуток понад справедливість і приватність
Дохід понад тестування та безпеку

Попередньо навчені моделі

Зменшують витрати
Економлять час і ресурси
Не потрібно збирати дані й тренувати
Можуть мати упереджені тренувальні дані
Бракує прозорості

попередньо навчені моделі

Використання попередньо навчених моделей

Належна перевірка джерела моделі
Хороша репутація
Довіра
Перегляд документації моделі
Додаткові тести на справедливість і упередження

Компроміс метрик

Точність понад справедливість
Навіть у збалансованих наборах даних

Компроміси точності

Нижча точність для окремих груп
Не враховує якість чи обсяг даних для малопредставлених груп
Приватність знижує точність

Розпізнавання облич

Компроміси робастності

Компроміс метрик

Робастність проти упереджень
Робастність проти справедливості

Професійна поведінка та обовʼязки дбайливості

Кодекс етики та поведінки
Рекомендації різняться за країнами й організаціями
Відповідальність, ненанесення шкоди, справедливість
Приватність і конфіденційність користувачів
Позитивний вплив на суспільство
Підтримувати високі стандарти
Розробляти надійні та безпечні системи
Інклюзивність і недискримінаційність

ACM

¹ https://www.acm.org/code-of-ethics

Давайте потренуємось!

Відповідальне керування даними для ШІ

Preparing Video For Download...