Упередженість в алгоритмах

Опановуємо упередженість у даних

Konstantinos Kattidis

Data Analytics Lead

AI та упередженість у даних

AI має різні сфери застосування:

Персоналізовані рекомендації
Прокладання маршрутів

Що станеться, якщо алгоритми стануть упередженими щодо певних груп, як-от стать чи раса?

Випадки використання AI

Алгоритмічна упередженість

Algorithmic bias

Алгоритмічна упередженість виникає, коли алгоритми дають систематичні та повторювані помилки, що призводять до несправедливих результатів і надають перевагу одній групі над іншою

Це охоплює різні типи упереджень, що можуть з'являтися під час розробки та впровадження алгоритмів

Упередженість під час тренування алгоритму

Алгоритмічна упередженість часто починається з упередженості під час збирання даних
Якщо тренувальні дані нерепрезентативні або упереджені, алгоритм може навчитися й відтворювати ці упередження
Наприклад: недостатнє представлення різних груп у алгоритмі розпізнавання облич

Упередженість відбору

Упередженість у виборі ознак

Упередженість у виборі ознак виникає, коли певні ознаки обирають за критеріями, що можуть призвести до несправедливих або дискримінаційних результатів
Такими ознаками є раса, стать або інші захищені характеристики
Наприклад, алгоритм для прогнозування схвалення кредитів може вважати, що дохід — єдиний релевантний чинник

Упередженість оцінювання

Використання нерепрезентативного набору даних під час тестування алгоритму може спричинити упередженість оцінювання
Наприклад:
- Алгоритм рекомендацій фільмів
- Тестування ефективності лише на одному жанрі
- Ігнорує те, що він може працювати гірше для інших жанрів, як-от мелодрами чи комедії

Упередженість оцінювання, тестування лише однієї групи жанрів

Упередженість автоматизації

Автоматизація діагностики МРТ

Схильність людей надмірно покладатися на автоматизовані системи

Наприклад:
- Систему медичної діагностики використовують для аналізу медичних зображень, наприклад МРТ
- Упередженість автоматизації виникає, якщо результатам системи довіряють без перегляду чи підтвердження висновків
- Це може призвести до помилкових діагнозів

Давайте потренуємось!

Опановуємо упередженість у даних