Khi nào nên tin LLMs

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Tối ưu Duolingo

  • Duolingo Max
    • Dùng ChatGPT cho hội thoại như người thật

Logo sản phẩm Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Tối ưu Duolingo

  • Duolingo Max
    • Dùng ChatGPT cho hội thoại như người thật
  • Người học luyện ngôn ngữ
    • GPT đóng nhiều vai
    • Phản hồi tức thì

Hình ảnh sử dụng Duolingo Max trên ứng dụng di động

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Hiểu về LLMs

  • Lãnh đạo doanh nghiệp phải hiểu rõ LLMs
  • LLMs không phải phép màu!
    • Thường chỉ dự đoán phần tiếp theo của chuỗi
  • Không hiểu ngôn ngữ như con người

Ảo thuật gia cầm đũa phép biểu diễn

Large Language Models for Business

Lẽ thường trong LLMs?

Người đàn ông cầm tấm nhãn ghi "common sense"

  • LLMs không có khái niệm về "sự thật"
  • Thiếu lẽ thường
  • Cần giám sát của con người cho mọi trường hợp dùng
  • Chỉ dựa vào LLMs có thể gây hệ quả không mong muốn
Large Language Models for Business

Giám sát khi huấn luyện

  • LLMs phụ thuộc dữ liệu huấn luyện
  • Thiên kiến hoặc bất công xã hội có thể bị khuếch đại
    • Kiểm tra phản hồi để phát hiện nội dung gây hại

Hình ảnh các chồng xu cao thấp khác nhau, với quân cờ màu khác nhau trên mỗi chồng

Large Language Models for Business

Có thiên kiến không?

  • LLMs có thể học từ bình luận thù ghét
    • Phản hồi cũng có thể độc hại
  • Tập dữ liệu có thiên kiến
    • Tạo LLMs với thiên lệch hệ thống
  • Dẫn tới duy trì định kiến, khuôn mẫu, hoặc thông tin sai lệch
  • Nhà phát triển đã bổ sung biện pháp phòng tránh
  • Doanh nghiệp phải nhận thức và đảm bảo biện pháp bảo vệ

Hình ảnh từ "misinformation"

Large Language Models for Business

Tính linh hoạt và hệ quả

  • Cùng prompt -> phản hồi khác nhau
  • Hữu ích cho sáng tạo, rủi ro cho mục đích khác
  • Đội marketing tạo mô tả sản phẩm bằng LLMs:
    • Khách hàng thấy mô tả khác nhau
    • Có thể hại hình ảnh thương hiệu

Người đàn ông nhìn hai sản phẩm trong siêu thị trông giống nhau chỉ khác màu bao bì

Large Language Models for Business

Cảnh báo bảo mật!

  • LLMs phức tạp nhưng vẫn có thể bị đánh lừa
  • Kẻ tấn công nhúng prompt độc hại trên website
    • Có thể làm sai lệch đầu ra LLMs
  • Gọi là prompt injection
  • Có thể gây tổn hại danh tiếng

Biểu tượng tam giác đỏ có dấu chấm than cảnh báo bảo mật

Large Language Models for Business

Thách thức với LLMs

  • Nhiều thách thức theo ngành
  • Open Worldwide Application Security Project (OWASP)
    • Định lượng thách thức
  • Doanh nghiệp phải nhận diện rủi ro
  • Hiểu rõ đặc thù của LLMs
  • Bảo đảm có giám sát của con người
  • Đầu tư đào tạo và an ninh

Biển báo người đàn ông vượt chướng ngại, với chữ "Challenges Ahead"

1 https://owasp.org/
Large Language Models for Business

Ayo berlatih!

Large Language Models for Business

Preparing Video For Download...