Общий искусственный интеллект (ОИИ)

Концепции генеративного ИИ

Daniel Tedesco

Data Lead, Google

Что такое ОИИ

ИИ, обладающий интеллектом на уровне человека:

  • Широта знаний
  • Рассуждения в разных областях
  • Социальные навыки
  • Творческое мышление
  • Другие когнитивные способности (зрение, язык)
Концепции генеративного ИИ

Значительные преимущества

  • Производительность
  • Прогресс в исследованиях
  • Инженерные решения
  • Общение и мудрость

Изображение прекрасного города будущего

Концепции генеративного ИИ

Серьёзные недостатки

  • Негативные экономические последствия
  • Злоупотребление
  • Проблемы согласования ценностей
  • Экзистенциальная катастрофа

Угрожающий робот

Концепции генеративного ИИ

Дискуссия о безопасности

ОИИ может дать новые возможности

Изображение современной атомной электростанции в Калинине, Россия

ОИИ может иметь негативные последствия

Изображение неразорвавшейся ядерной бомбы в музее

Концепции генеративного ИИ

Управление результатами ОИИ

Требования для согласования ОИИ с человеческими ценностями:

  • Чёткие правила и ожидания
  • Конструктивная обратная связь

$$ $$

  1. Жёсткие ограничения
  2. Стратегии согласования
  3. Государственное регулирование
Концепции генеративного ИИ

Жёсткие ограничения

  1. Изоляция ограничивает доступ к внешнему миру
  2. Прерываемость предусматривает кнопку остановки или отключения

Изображение большой красной кнопки с табличкой «Аварийное отключение питания»

Концепции генеративного ИИ

Стратегии согласования

  • Итеративная разработка
  • Конституционный ИИ
  • Взаимодействие с заинтересованными сторонами

Схема итеративной разработки: каждый шаг расширяет спираль наружу

1 Dave Gray
Концепции генеративного ИИ

Государственное регулирование

 

  • Полезное регулирование
    • Требования безопасности
    • Правила тестирования и контроля
    • Стандарты прозрачности
  • Международное сотрудничество

Встреча генеральных директоров ряда ИИ-компаний с премьер-министром Великобритании Риши Сунаком в 2023 году-

Генеральные директора ряда ИИ-компаний на встрече с премьер-министром Великобритании Риши Сунаком

1 UK Prime Minister
Концепции генеративного ИИ

Давайте потренируемся!

Концепции генеративного ИИ

Preparing Video For Download...