微调

Large Language Models (LLMs) 概念

Vidhi Chugh

AI strategist and ethicist

进度到哪？

进度图显示我们已到微调阶段

Large Language Models (LLMs) 概念

 

  • 预训练

以学童作类比的预训练示意图

          学校教育

 

  • 微调

以大学生作类比的微调示意图

        大学专业化
1 Freepik
Large Language Models (LLMs) 概念

"大规模"挑战

  • 微调可提供帮助
  • 强大计算机
  • 高效训练方法
  • 海量训练数据

展示数据、训练时间与算力作为构建 LLM 挑战的图示

Large Language Models (LLMs) 概念

计算能力

  • 内存

  • 处理能力

  • 基础设施

  • 昂贵

  • LLM：
    • 数十万颗中央处理器（CPU）
    • 数万张图形处理器（GPU）
  • 个人电脑：4–8 个 CPU，1–2 个 GPU

男子在电脑前工作，连接大型服务器

1 Freepik
Large Language Models (LLMs) 概念

高效模型训练

象征深度学习模型的插图

  • 训练时间巨大

 

  • 可能需数周甚至数月

 

  • 高效训练 = 更快训练

 

  • 单块 GPU 需 355 年处理时间
Large Language Models (LLMs) 概念

数据可用性

 

  • 需要高质量数据
  • 学习语言的复杂性与细微差别

  • 数百 GB 文本数据

    • 超过一百万本书

  • 海量数据

  两摞溢出的文件夹，象征海量数据

Large Language Models (LLMs) 概念

化解挑战

  • 微调
    • 应对部分挑战
    • 适配预训练模型

 

  • 预训练模型
    • 基于通用数据集学习
    • 未针对特定任务优化
    • 可为特定问题微调

人们在超大笔记本上用工具和齿轮，象征微调

Large Language Models (LLMs) 概念

微调 vs. 预训练

  • 微调

  • 计算

    • 1–2 个 CPU 和 GPU

 

  • 训练时间
    • 数小时到数天

 

  • 数据
    • 约 1 GB

  • 预训练

  • 计算

    • 成千上万个 CPU 和 GPU

 

  • 训练时间
    • 数周到数月

 

  • 数据
    • 数百 GB
Large Language Models (LLMs) 概念

让我们来练习！

Large Language Models (LLMs) 概念

Preparing Video For Download...