Ответственный ИИ

Введение в GPT

Jasmin Ludolf

Data Science and AI Content Developer, DataCamp

Ответственный ИИ

 

Практика разработки и применения систем ИИ, которая приносит пользу обществу и минимизирует риск негативных последствий

1 https://www.iso.org/artificial-intelligence/responsible-ai-ethics
Введение в GPT

Ответственный ИИ

 

Практика разработки и применения систем ИИ, которая приносит пользу обществу и минимизирует риск негативных последствий

 

  • Каждый несёт ответственность за безопасное использование ИИ
  • Инструмент не виноват!

Иллюстрация деревянного судейского молотка

1 https://www.bbc.co.uk/news/world-us-canada-65735769
Введение в GPT

Ключевые аспекты

Законность

Введение в GPT

Ключевые аспекты

Справедливость

Введение в GPT

Ключевые аспекты

Прозрачность

Введение в GPT

Ключевые аспекты

Разнообразие

Введение в GPT

Ключевые аспекты

Инклюзивность

Введение в GPT

Ключевые аспекты

Ответственность

Введение в GPT

Ключевые аспекты

Конфиденциальность

Введение в GPT

Ключевые аспекты

Безопасность

Введение в GPT

Требования к пользователям

  • Поведение соответствует законам и нормам
    • Требования различаются в зависимости от страны и отрасли
  • Относитесь ко всем одинаково, без дискриминации
  • Понимайте, как работает инструмент
  • Соблюдайте права личности
  • Защищайте корпоративные данные
  • Распространяется на запросы и ответы

Человек за столом с ноутбуком изучает документы

Введение в GPT

Изучите политику

  • Кодекс поведения или политика
  • Правила использования

  • Требования к данным

  • 🚨 Соблюдайте эти политики

Руководство по:

  • Финансовым данным
  • Персональным данным
  • Конфиденциальным данным

Политики могут различаться!

Человек держит длинный свиток с надписью «политика» вверху

Введение в GPT

Общие требования к входным данным

  • Персональные данные:

    • Идентификационные номера
    • Адреса
    • Медицинские сведения
    • Банковские данные

  • Конфиденциальная информация:

    • Стратегии компании
    • Юридические сведения
    • Финансовые данные

Робот GPT держит знак «Стоп»

Введение в GPT

Общие требования к входным данным

Человек с ноутбуком и мыслепузырём, в котором робот GPT держит знак «Стоп»

                                              - Поставщик использует данные

                                              - Уязвимость к атакам

Введение в GPT

Общие требования к выходным данным

  • Предвзятость: необоснованное предпочтение одного результата
  • Потеря контекста: система «забывает» ход беседы
  • Галлюцинация: уверенный, но неверный ответ

 

Гарантий нет

 

Наша ответственность

Бот GPT даёт неверный ответ, утверждая, что небо зелёное

Введение в GPT

Давайте потренируемся!

Введение в GPT

Preparing Video For Download...