ChatGPT 的局限性

深入理解 ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT 的内部机制

一张图示展示提示与回答如何与大型语言模型关联。

深入理解 ChatGPT

解密大型语言模型

 

一堵大型积木墙。

深入理解 ChatGPT

解密大型语言模型

 

一堵大型积木墙和一堵缺块的墙，正插入一块积木。

深入理解 ChatGPT

解密大型语言模型

一堵积木墙。

深入理解 ChatGPT

解密大型语言模型

这堵积木墙被标注为训练数据。

深入理解 ChatGPT

解密大型语言模型

出现了一个网络结构，代表用于识别语言模式的算法。

深入理解 ChatGPT

解密大型语言模型

显示齿轮和灯泡，周围是循环符号，表示微调模型所需的迭代过程。

深入理解 ChatGPT

解密大型语言模型

一个假人正在搭建积木墙，比喻 ChatGPT 对文本的处理。

深入理解 ChatGPT

局限 1 —— 知识截断

 

 

  • 训练数据截至某日期：
    • GPT 3.5：2022 年 1 月
    • GPT 4：2023 年 4 月
  • 此后事件不在其认知范围内

 

一堵积木墙在某个日期处停止。

深入理解 ChatGPT

局限 2 —— 训练数据偏见

 

  • ChatGPT 基于海量文本训练，包括：

    • 书籍
    • 文章
    • 网站

  • 模型可能学习到训练数据中的偏见

  • 进而影响其回答

一个图标演示模型如何从见过的数据中学到偏见。

深入理解 ChatGPT

局限 3 —— 语境跟踪

 

用户与 ChatGPT 的对话，语境不断变化。

深入理解 ChatGPT

局限 3 —— 语境跟踪

 

用户与 ChatGPT 的对话，语境不断变化。

深入理解 ChatGPT

局限 3 —— 语境跟踪

 

  • 焦点变化时，难以持续跟踪语境
  • 可能导致不准确或不相关的结果
  • 提示：将对话保持在单一主题

 

用户与 ChatGPT 的对话，语境不断变化。

深入理解 ChatGPT

局限 4 —— 幻觉

 

  • 模型会自信地提供不准确信息
  • 多见于超出其知识或能力范围的请求

ChatGPT 幻觉出一个 LinkedIn 个人资料的示例。

1 https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
深入理解 ChatGPT

局限 5 —— 法律与伦理考量

 

  • 例：按某位现有歌手的风格创作歌曲
    • 新歌的版权归谁？

 

一个用户在笔记本电脑前的图标。

深入理解 ChatGPT

局限 5 —— 法律与伦理考量

 

  • 例：按某位现有歌手的风格创作歌曲
    • 新歌的版权归谁？

 

一位歌手演唱的图标。

深入理解 ChatGPT

局限 5 —— 法律与伦理考量

 

  • 例：按某位现有歌手的风格创作歌曲
    • 新歌的版权归谁？

 

  • 很容易陷入法律灰色地带
  • 所有权与隐私 → 第 2 章

 

一位技术相关方的图标。

深入理解 ChatGPT

Vamos praticar!

深入理解 ChatGPT

Preparing Video For Download...