Tính mới của LLM

Các khái niệm về Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

Khai thác dữ liệu văn bản

Hình minh họa phân tích cảm xúc, phát hiện spam và trợ lý số

  • Dữ liệu phi cấu trúc — lộn xộn, không nhất quán
1 Freepik
Các khái niệm về Large Language Models (LLMs)

Máy không tự hiểu ngôn ngữ!

Hình cho thấy máy tính không thể hiểu ngôn ngữ như nguyên bản

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Sự cần thiết của NLP

 

Hình cho thấy NLP là cầu nối giữa văn bản và con số để máy tính hiểu

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Năng lực độc đáo của LLM

 

  • Sắc thái ngôn ngữ
    • Mỉa mai
    • Hài hước
    • Chơi chữ
    • Châm biếm
    • Ngữ điệu
    • Dụng ý

Một người cầm bảng kẹp chỉ vào đoạn văn bản chung và một dấu hỏi lớn

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Sách bạn thích nhất là gì?

 

  • Phản hồi tự nhiên: "Ồ, câu này khó đấy!"

 

  • Ý kiến cá nhân: "Cuốn tôi thích nhất mọi thời là To Kill a Mockingbird của Harper Lee."

 

  • Câu hỗ trợ: "Đó là câu chuyện mạnh mẽ về định kiến, công lý và trải nghiệm con người."

 

  • Câu hỏi tiếp: "Bạn đã đọc chưa?"
Các khái niệm về Large Language Models (LLMs)

Sắc thái ngôn ngữ

Mỉa mai: "Tuyệt quá, lại họp nữa."

Mô hình ngôn ngữ truyền thống:

  • Phản hồi: "Cuộc họp về việc gì?"
    • Trung lập
    • Không nhận ra mỉa mai

 

Mô hình ngôn ngữ lớn:

  • Phản hồi: "Nghe có vẻ bạn rất mong chờ đấy!"
    • H dí dỏm
    • Lôi cuốn
    • Bắt đúng sắc thái mỉa mai
Các khái niệm về Large Language Models (LLMs)

LLM hiểu như thế nào

 

  • Huấn luyện trên lượng dữ liệu khổng lồ

  • “Độ lớn” của LLM: tham số

  • Tham số biểu diễn quy luật và mẫu

  • Nhiều tham số -> mẫu phức tạp hơn

  • Sinh phản hồi tinh vi, chính xác

Các khái niệm về Large Language Models (LLMs)

Tham số

 

  • Ít viên gạch -> cấu trúc hạn chế

Hình cho thấy số khối ít

 

  • Nhiều gạch hơn -> cấu trúc phức tạp, chi tiết

Hình cho thấy số khối nhiều

Các khái niệm về Large Language Models (LLMs)

Sự xuất hiện năng lực mới

 

  • Năng lực nổi lên
    • chỉ có ở mô hình rất lớn

 

  • Quy mô:

    • Lượng dữ liệu huấn luyện
    • Số lượng tham số

 

Đồ thị cho thấy mô hình cải thiện đột ngột khi quy mô vượt ngưỡng chuyển tiếp

Các khái niệm về Large Language Models (LLMs)

Sự xuất hiện năng lực mới

 

Hình minh họa năng lực mới như nhạc, thơ, sinh mã, chẩn đoán và phác đồ điều trị

Các khái niệm về Large Language Models (LLMs)

Các khối xây dựng của LLM

Các khối cấu thành LLM

Các khái niệm về Large Language Models (LLMs)

Tóm tắt

LLM:

  • Vượt qua tính phi cấu trúc của dữ liệu

 

  • Vượt trội hơn mô hình truyền thống

 

  • Hiểu sắc thái ngôn ngữ

Bằng cách nào?

  • “Độ lớn” của LLM
  • Dữ liệu huấn luyện lớn
  • Nhiều tham số
  • Năng lực nổi lên
Các khái niệm về Large Language Models (LLMs)

Hãy thực hành nào!

Các khái niệm về Large Language Models (LLMs)

Preparing Video For Download...