Оценка и снижение социальной предвзятости

Концепции генеративного ИИ

Daniel Tedesco

Data Lead, Google

Что такое социальная предвзятость?

$$ $$

Систематическая несправедливость в генеративном ИИ

Серьёзные социальные последствия
Справедливость — понятие субъективное
Опора на общепризнанные ценности

$$ $$

Собеседование на работу.

Где проявляется предвзятость

Обучающие данные
Сама модель
Способ применения модели

Несбалансированные весы правосудия

Предвзятость в данных

Искажённые или нерепрезентативные данные в обучающей выборке

Две воронки обучения. В первой на входе — только фиолетовые квадраты, и на выходе тоже только они. Во второй на входе — фигуры разных цветов, и на выходе — разнообразные фигуры.

Предвзятость в моделях

Достижение целей, приводящее к предвзятым результатам

Фотореалистичный робот-политик выступает с речью в ООН

Предвзятость в применении

Использование ИИ в неправомерных или злонамеренных целях

Ноутбук с видео, на котором крупно написано «FAKE».

Выявление предвзятости в данных и моделях

Анализ представленности сравнивает, как модель описывает разные группы
Метрики справедливости оценивают равенство обращения, возможностей и точности для разных групп
Аудит с участием людей — реальные пользователи проверяют вывод модели на наличие предвзятости

Снижение предвзятости в данных и моделях

Расширение разнообразия в сборе данных
Настройка модели для приоритизации разных данных
Состязательное обучение
Непрерывное совершенствование

Набор фигур разных цветов и репрезентативная выборка из них

Давайте потренируемся!

Концепции генеративного ИИ