Các vấn đề kinh doanh, vận hành và đạo đức

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Minh bạch

  • Tính minh bạch của LLM
  • Doanh nghiệp cần biết LLM tạo ra phản hồi như thế nào
  • Thiết yếu để xây dựng niềm tin

Chữ "Truth" và "Trust" được ghép từ các khối gỗ

Large Language Models for Business

Trách nhiệm giải trình

Hình các tượng gỗ xếp thành vòng tròn, có một tượng màu khác ở giữa

  • Nếu khuyến nghị của LLM không hiệu quả
    • Ai chịu trách nhiệm?
  • Nhà phát triển phần mềm thiết kế mô hình?
  • Công ty triển khai?
Large Language Models for Business

Rủi ro với LLM

  • Rủi ro cố hữu lan truyền thông tin sai lệch
  • Hệ quả cho doanh nghiệp gồm:
    • Quyết định dựa trên dữ liệu sai
    • Ảnh hưởng lợi nhuận
    • Tổn hại uy tín
  • Nguy cơ LLM bị lợi dụng:
    • Lừa dối, thao túng, đánh lạc hướng các bên liên quan
    • Gây rủi ro uy tín và vận hành

Tranh hoạt họa người đàn ông đứng trên các khối chữ "Risk" và đo độ cao rủi ro

Large Language Models for Business

LLM và môi trường

  • Sức mạnh tính toán huấn luyện LLM tiêu tốn nhiều năng lượng
  • Gây ra lượng phát thải carbon lớn
  • Doanh nghiệp cần hiểu và giảm tác động môi trường

Một tay robot cầm Trái Đất, có cây mọc trên đỉnh

Large Language Models for Business

Xây LLM như thế nào?

  • Doanh nghiệp có các cân nhắc thực tế
  • Tự xây LLM hay dùng nhà cung cấp bên thứ ba?
Large Language Models for Business

Tài nguyên công nghệ

Nội bộ

  • Cần nhiều tài nguyên: hạ tầng tính toán và dữ liệu
  • Có thể đầu tư tiền và thời gian không?

Bên thứ ba

  • Truy cập ngay và mở rộng dễ dàng
  • Không tốn chi phí phát triển

Hình hoạt họa người đàn ông xếp tiền khi đứng trên đồng hồ báo thức khổng lồ

Hình sổ tay hiển thị chi phí vận hành giảm dần, cạnh đó là cốc cà phê và tay áo người đàn ông

Large Language Models for Business

LLM cá nhân hóa

Nội bộ

  • Tùy biến LLM theo nhu cầu cụ thể
  • Tinh chỉnh bằng dữ liệu công ty

Bên thứ ba

  • Hiệu năng tiên tiến
  • Mô hình chung, trừ khi được tùy chỉnh

Hình chữ "customization" được chạm vào bởi ngón tay người

Hình các sản phẩm generic xếp trong siêu thị, cùng tông màu khác sắc độ

Large Language Models for Business

Cập nhật và bảo trì

Nội bộ

  • Bảo trì để LLM hiệu quả và an toàn
  • Chi phí duy trì liên tục

Bên thứ ba

  • Công ty không chịu trách nhiệm
  • Nhà cung cấp lo cập nhật và bảo trì

Hình hoạt họa phụ nữ dùng điện thoại, nền là biểu tượng bảo trì và cập nhật công nghệ

Hình chữ "Third Party Service" trên bảng kẹp tài liệu

Large Language Models for Business

Xử lý dữ liệu

Nội bộ

  • Kiểm soát dữ liệu
  • Quan trọng với dữ liệu nhạy cảm

Bên thứ ba

  • Có thể phải chia sẻ dữ liệu
  • Rủi ro bảo mật và quyền riêng tư

Hình hoạt họa người đàn ông dùng laptop và bắt tay với người trong màn hình

Hình hoạt họa các nhân vật đánh cắp và lấy thông tin từ laptop

Large Language Models for Business

Hiệu quả chi phí

Nội bộ

  • Cân đối chi phí định kỳ để tối ưu hiệu quả
  • Chi phí khởi tạo cao

Bên thứ ba

  • Chi phí định kỳ
  • Chi phí khởi tạo thấp

Hình hoạt họa người đàn ông cầm phích cắm nối tiền với bóng đèn

Hình hoạt họa người đàn ông cầm thẻ trước một ngày trên lịch

Large Language Models for Business

Lựa chọn là của bạn!

Biển chỉ đường với hai hướng: outsource hoặc inhouse

Large Language Models for Business

Ayo berlatih!

Large Language Models for Business

Preparing Video For Download...