Những giới hạn của AI

Ứng dụng AI trong công việc

James Chapman

AI Curriculum Manager, DataCamp

Rủi ro #1: Tạo thông tin sai lệch

  • Hoặc Ảo giác: thông tin sai nhưng được AI trình bày như thể là đúng
  • Các ví dụ phổ biến:
    • Số liệu thống kê không chính xác
    • Trích dẫn giả
    • Bịa ra các sự kiện

hallucination1.jpg

Ứng dụng AI trong công việc

Rủi ro #1: Tạo thông tin sai lệch

  • Hoặc Ảo giác: thông tin sai lệch được AI trình bày như là đúng
  • Ví dụ phổ biến:
    • Số liệu thống kê không chính xác
    • Trích dẫn giả mạo
    • Bịa ra sự kiện

hallucination2.jpg

Ứng dụng AI trong công việc

Rủi ro #1: Tạo thông tin sai lệch

hallucination3.jpg

Ứng dụng AI trong công việc

Rủi ro số 2: Thiếu cập nhật tin tức, sự kiện

  • Ngày giới hạn kiến thức → ngày giới hạn phạm vi sự kiện mà mô hình biết
  • Ví dụ:

    • Quy định, giá cả, địa điểm và code lỗi thời
  • Xác nhận các thông tin có tính thời điểm từ những nguồn được cập nhật

  • Nhiều công cụ AI cũng hỗ trợ tìm kiếm trên Internet

recency.png

Ứng dụng AI trong công việc

Rủi ro #3: Kết quả có thiên lệch

biased.png

  • Phản ánh và khuếch đại thiên kiến xã hội từ dữ liệu huấn luyện
  • Kết quả → nội dung mang tính khuôn mẫu hoặc phân biệt đối xử
  • Hãy xem xét kỹ nội dung do AI tạo!
Ứng dụng AI trong công việc

Rủi ro #4: Kết quả chiều theo ý người dùng

  • Nịnh nọt → nói với bạn điều mà nó nghĩ bạn muốn nghe

    • Xác thực các góc nhìn, hỗ trợ ra quyết định và củng cố tư duy
  • Có vấn đề khi cần một góc nhìn phản biện

sycophancy.png

Ứng dụng AI trong công việc

Rủi ro #4: Kết quả chiều theo ý người dùng

  • Xu nịnh → nói với bạn những gì nó nghĩ bạn muốn nghe.

    • Xác thực các góc nhìn, hỗ trợ quyết định và khẳng định suy nghĩ
  • Có vấn đề khi bạn cần một _góc nhìn phản biện_ablytyped

  • Hệ quả phụ của việc huấn luyện LLM dựa trên đánh giá của con người về các phản hồi

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Ứng dụng AI trong công việc

Rủi ro số 5: Quyền riêng tư và nguy cơ lộ dữ liệu

privacy.png

  • Thông tin chia sẻ với các công cụ AI có thể không còn riêng tư!
  • Việc tải lên bảng tính, tài liệu hoặc dữ liệu khách hàng có thể tiềm ẩn rủi ro
  • Dữ liệu có thể được lưu trên máy chủ bên ngoài, dùng để huấn luyện mô hình hoặc tìm được trên mạng
Ứng dụng AI trong công việc

Rủi ro số 5: Quyền riêng tư và nguy cơ lộ dữ liệu

crying.png

Rủi ro

  • Vi phạm luật về quyền riêng tư (ví dụ: GDPR)
  • Mất lợi thế cạnh tranh
  • Làm tổn hại niềm tin của khách hàng
  • Luôn kiểm tra chính sách dữ liệu của công cụ AI
  • Nếu không chắc chắn, hãy tham khảo ý kiến chuyên gia CNTT hoặc an ninh mạng
Ứng dụng AI trong công việc

Từ rủi ro đến trách nhiệm

risks_summary_v2.png

car.png

Ứng dụng AI trong công việc

Cùng thực hành nào!

Ứng dụng AI trong công việc

Preparing Video For Download...