Các vấn đề đạo đức và môi trường

Các khái niệm về Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

Quan ngại đạo đức

  • Rủi ro minh bạch

Rủi ro minh bạch

Các khái niệm về Large Language Models (LLMs)

Quan ngại đạo đức

  • Rủi ro minh bạch
  • Rủi ro trách nhiệm giải trình -

Rủi ro minh bạch và trách nhiệm giải trình

Các khái niệm về Large Language Models (LLMs)

Quan ngại đạo đức

  • Rủi ro minh bạch

  • Rủi ro trách nhiệm giải trình

  • Nguy cơ thông tin

Cả ba vấn đề đạo đức: minh bạch, trách nhiệm giải trình, nguy cơ thông tin

Các khái niệm về Large Language Models (LLMs)

Rủi ro minh bạch

  • Khó hiểu đầu ra

 

  • Khó phát hiện vấn đề
    • Thiên lệch
    • Lỗi
    • Lạm dụng
  • Hộp đen

 

  • Ví dụ: lý do dự đoán kết quả bệnh

Thiên lệch, lỗi hoặc lạm dụng đầu ra do LLM tạo

Các khái niệm về Large Language Models (LLMs)

Rủi ro trách nhiệm giải trình

  • Trách nhiệm với hành vi của LLM

 

  • Ai chịu trách nhiệm?
    • Tư vấn sai, gây hại
    • Nhà phát triển hay doanh nghiệp?

 

  • Trò chơi không luật
    • Thiếu minh bạch
    • Thiếu trách nhiệm giải trình

 

Trách nhiệm của nhà phát triển hoặc đơn vị triển khai LLM

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Nguy cơ thông tin

Nguy cơ thông tin Phát tán thông tin gây hại

  • Tạo nội dung gây hại
  • Lan truyền sai lệch
  • Lạm dụng ác ý
  • Độc hại
Các khái niệm về Large Language Models (LLMs)

Nguy cơ thông tin

 

Tạo nội dung gây hại

  • Gây hại, xúc phạm, không phù hợp

 

  • Do prompt hoặc dữ liệu huấn luyện thiên lệch

 

  • Ví dụ:
    • Bắt nạt vs. môi trường học đường thân thiện
    • Gây tổn thương, có hại

 

Lan truyền sai lệch

  • Tạo văn bản về mọi chủ đề

 

  • Nhưng không kiểm chứng!

 

  • Ví dụ:
    • "Chế độ ăn giảm cân tốt là gì?"
    • Kế hoạch ăn kiêng vô căn cứ
Các khái niệm về Large Language Models (LLMs)

Nguy cơ thông tin

 

Lạm dụng ác ý

  • Kẻ xấu khai thác LLM

 

  • Tạo nội dung đánh lừa

 

  • Ví dụ:
    • Tin giả
    • Thao túng công chúng, gây bất ổn

 

Độc hại

  • Nội dung không phù hợp

 

  • Do huấn luyện hoặc prompt bị thao túng

 

  • Ví dụ:
    • Phản hồi vô cảm
    • Khuôn mẫu định kiến
Các khái niệm về Large Language Models (LLMs)

Quan ngại môi trường

 

  • Dấu chân sinh thái của LLM

 

  • Cần nhiều năng lượng để huấn luyện

 

  • Tác động qua phát thải carbon

Cắt giảm phát thải carbon

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Làm mát cũng tốn điện!

  • Tỏa nhiều nhiệt cần làm mát

 

  • Hình dung hàng nghìn laptop quá nhiệt
    • Cần hệ thống làm mát phức tạp
    • Tăng tác động môi trường

 

  • Cân bằng chi phí và lợi ích
    • Dùng năng lượng tái tạo
    • Công nghệ tiết kiệm năng lượng

 

Hình ảnh mô tả cân bằng giữa chi phí môi trường và đổi mới công nghệ

1 Freepik
Các khái niệm về Large Language Models (LLMs)

Ayo berlatih!

Các khái niệm về Large Language Models (LLMs)

Preparing Video For Download...