Ограничения ChatGPT

Знакомство с ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT изнутри

Как устроена языковая модель

 

Как устроена языковая модель

 

Как устроена языковая модель

Как устроена языковая модель

Как устроена языковая модель

Как устроена языковая модель

Как устроена языковая модель

Ограничение 1 — Граница знаний

 

 

• Обучена на данных до определённой даты:
  • GPT 3.5: январь 2022
  • GPT 4: апрель 2023
• Не знает о событиях после этой даты

 

Ограничение 2 — Предвзятость обучающих данных

 

• ChatGPT обучался на огромном текстовом наборе данных, включая:

  • Книги
  • Статьи
  • Веб-сайты

• Модель может усваивать предвзятости из обучающих данных

• Это способно влиять на ответы

Ограничение 3 — Отслеживание контекста

 

Ограничение 3 — Отслеживание контекста

 

Ограничение 3 — Отслеживание контекста

 

• Теряет нить разговора при смене темы
• Может давать неточные или нерелевантные ответы
• Совет: ведите беседу в рамках одной темы

 

Ограничение 4 — Галлюцинации

 

• Модель уверенно выдаёт недостоверную информацию
• Чаще всего при выходе за пределы знаний или возможностей модели

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Ограничение 5 — Правовые и этические аспекты

 

• Пример: создание песни в стиле существующего исполнителя
  • Кому принадлежит новая песня?

 

Ограничение 5 — Правовые и этические аспекты

 

• Пример: создание песни в стиле существующего исполнителя
  • Кому принадлежит новая песня?

 

Ограничение 5 — Правовые и этические аспекты

 

• Пример: создание песни в стиле существующего исполнителя
  • Кому принадлежит новая песня?

 

• Легко попасть в правовую «серую зону»
• Авторские права и конфиденциальность → Глава 2

 

Давайте потренируемся!

Знакомство с ChatGPT