Ответственное применение генеративного ИИ

Концепции генеративного ИИ

Daniel Tedesco

Data Lead, Google

Накануне выборов

Коллекция заголовков фейковых новостей

Концепции генеративного ИИ

Виды злоупотреблений

  • Дипфейки
  • Дезинформационные кампании
  • Взломы с применением ИИ

Сгенерированное ИИ изображение папы в пуховике

1 Pablo Xavier
Концепции генеративного ИИ

Обнаружение и предотвращение

Ключевые принципы использования

  • Участие человека в процессе
  • Предотвращение вреда
  • Постоянный мониторинг

 

Точки обнаружения и предотвращения

Схема точек на протяжении использования ИИ: доступ, запросы, ответы, приложение, коммуникация и обратная связь.

Концепции генеративного ИИ

Доступ

ИИ может непреднамеренно помогать преступным группам в законной деятельности.

  • Не поддерживать деятельность злоумышленников
  • Know Your Customer (KYC)
    • Проверять личность пользователя

Зловещий персонаж, призывающий к молчанию.

Концепции генеративного ИИ

Запросы и ответы

Модерация запросов

  • Аналогично модерации сайтов или чатов
  • Джейлбрейк-запросы могут обходить правила разработчика

Модерация ответов

  • Проверять и фильтровать ответы до показа пользователю
Концепции генеративного ИИ

Приложения

Злоумышленники могут использовать безобидные ответы в незаконных или неэтичных целях.

  • Невидимые водяные знаки помогают установить источник контента
  • Может потребоваться вмешательство правоохранительных органов
Концепции генеративного ИИ

Коммуникация и обратная связь

  • Чёткие правила использования
  • Циклы обратной связи
    • Пользовательские исследования и встречи со стейкхолдерами
    • Партнёрство с организациями гражданского общества
    • Возможности обратной связи в продукте

Водитель автомобиля пристёгивает ремень безопасности

Концепции генеративного ИИ

Давайте потренируемся!

Концепции генеративного ИИ

Preparing Video For Download...