Обмеження ChatGPT

Розуміння ChatGPT

James Chapman

Curriculum Manager, DataCamp

Як влаштований ChatGPT

Знімаємо завісу з LLM

 

Знімаємо завісу з LLM

 

Знімаємо завісу з LLM

Знімаємо завісу з LLM

Знімаємо завісу з LLM

Знімаємо завісу з LLM

Знімаємо завісу з LLM

Обмеження 1 — межа знань

 

 

• Навчена на даних до певної дати:
  • GPT 3.5: січень 2022
  • GPT 4: квітень 2023
• Не знає подій після цієї дати

 

Обмеження 2 — упередженість даних навчання

 

• ChatGPT навчали на величезному текстовому наборі, зокрема:

  • Книгах
  • Статтях
  • Вебсайтах

• Модель може перейняти упередження з тренувальних даних

• Це впливає на відповіді

Обмеження 3 — відстеження контексту

 

Обмеження 3 — відстеження контексту

 

Обмеження 3 — відстеження контексту

 

• Важко тримати контекст, коли фокус змінюється
• Це може давати неточні або нерелевантні результати
• Порада: ведіть розмови в межах однієї теми

 

Обмеження 4 — галюцинації

 

• Модель упевнено надає неточну інформацію
• Часто трапляється, коли виходить за межі своїх знань чи можливостей

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Обмеження 5 — правові та етичні аспекти

 

• Приклад: створення пісні в стилі наявного виконавця
  • Хто володіє новою піснею?

 

Обмеження 5 — правові та етичні аспекти

 

• Приклад: створення пісні в стилі наявного виконавця
  • Хто володіє новою піснею?

 

Обмеження 5 — правові та етичні аспекти

 

• Приклад: створення пісні в стилі наявного виконавця
  • Хто володіє новою піснею?

 

• Легко опинитися в правовій «сірій зоні»
• Право власності та приватність → Розділ 2

 

Давайте потренуємось!

Розуміння ChatGPT