Оцінювання та зменшення соціальних упереджень

Концепції Generative AI

Daniel Tedesco

Data Lead, Google

Що таке соціальні упередження?

$$ $$

Систематична несправедливість у генеративному ШІ

Серйозні суспільні наслідки
Справедливість може бути субʼєктивною
Орієнтуйтеся на загальноприйняті цінності

$$ $$

Співбесіда на роботу.

Де виникають упередження

Навчальні дані
Модель як така
Як модель використовують

Нерівноважні шальки терезів

Упередження в даних

Скривлені або нерепрезентативні дані у навчальному наборі

Дві навчальні воронки. В одній у навчання потрапляють лише фіолетові квадрати й генеруються лише фіолетові квадрати. В іншій — різні фігури та генеруються різні фігури

Упередження в моделях

Досягнення цілей, що ведуть до упереджених результатів

Фотореалістичний робот-політик виступає в ООН

Упередження у використанні

Неправильне чи зловмисне застосування ШІ

Ноутбук із відео та великим написом «FAKE».

Виявлення упереджень у даних і моделях

Аналіз репрезентації порівнює, як модель згадує різні групи
Метрики справедливості оцінюють рівність ставлення, можливостей і точності між групами
Людські аудити — люди перевіряють виходи моделі, щоб виявити упередження

Зменшення упереджень у даних і моделях

Диверсифікуйте збір даних
Налаштуйте модель, щоб пріоритезувати різні дані
Антагоністичне навчання
Безперервне поліпшення

Набір фігур різних кольорів і вибір репрезентативної вибірки

Passons à la pratique !

Концепції Generative AI