Những giới hạn và hạn chế của AI

Ứng dụng AI trong công việc

James Chapman

AI Curriculum Manager, DataCamp

Rủi ro số 1: Tạo ra thông tin sai lệch

 

  • Hoặc Ảo giác: thông tin sai lệch được AI trình bày như thể là thông tin chính xác.
  • Ví dụ phổ biến:
    • Thống kê không chính xác
    • Trích dẫn không chính xác
    • Ảo giác

hallucination1.jpg

Ứng dụng AI trong công việc

Rủi ro số 1: Tạo ra thông tin sai lệch

 

  • Hoặc Ảo giác: thông tin sai lệch được AI trình bày như thông tin chính xác
  • Ví dụ phổ biến:
    • Thống kê không chính xác
    • Trích dẫn không chính xác
    • Ảo giác

hallucination2.jpg

Ứng dụng AI trong công việc

Rủi ro số 1: Tạo ra thông tin sai lệch

hallucination3.jpg

Ứng dụng AI trong công việc

Rủi ro #2: Thiếu cập nhật tin tức mới

 

  • Mốc cắt kiến thức → Thời điểm giới hạn thông tin về các sự kiện của mô hình

  • Ví dụ:

    • Quy định, giá cả, địa điểm và code đã lỗi thời

  • Xác nhận các thông tin có tính thời sự từ các nguồn tin hiện tại.

  • Nhiều công cụ AI hỗ trợ tìm kiếm trên internet.

recency.png

Ứng dụng AI trong công việc

Rủi ro số 3: Kết quả thiên lệch

biased.png

 

  • Phản ánh và khuếch đại định kiến xã hội từ dữ liệu đào tạo của nó.
  • Kết quả → Nội dung mang tính định kiến hoặc phân biệt đối xử
  • Xem xét kỹ lưỡng nội dung do AI tạo ra!
Ứng dụng AI trong công việc

Rủi ro số 4: Các sản phẩm nịnh bợ

 

  • Nịnh bợ → nói những điều mà người khác muốn nghe

    • Xác nhận quan điểm, ủng hộ quyết định và khẳng định lập luận.

  • Điều này có thể gây vấn đề khi ta cần một góc nhìn phê phán.

sycophancy.png

Ứng dụng AI trong công việc

Rủi ro số 4: Các sản phẩm nịnh bợ

 

  • Nịnh bợ → nói những điều mà người khác muốn nghe

    • Xác nhận quan điểm, ủng hộ quyết định và khẳng định lập luận.

  • Điều này có thể gây rắc rối khi bạn cần một góc nhìn phê phán.

  • Tác dụng phụ của việc các mô hình ngôn ngữ lớn (LLMs) được đào tạo dựa trên đánh giá của con người

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Ứng dụng AI trong công việc

Rủi ro số 5: Quyền riêng tư và Rủi ro lộ thông tin

![privacy.png

 

  • Thông tin chia sẻ với các công cụ AI có thể không được bảo mật!
  • Việc tải lên bảng tính, tài liệu hoặc dữ liệu khách hàng có thể tiềm ẩn rủi ro.
  • Dữ liệu có thể được lưu trữ trên các máy chủ bên ngoài, được sử dụng cho việc đào tạo mô hình hoặc có thể tìm kiếm được.
Ứng dụng AI trong công việc

Rủi ro số 5: Quyền riêng tư và Rủi ro lộ thông tin

crying.png

 

Rủi ro

  • Vi phạm các quy định về bảo vệ dữ liệu cá nhân (ví dụ: GDPR)
  • Mất lợi thế cạnh tranh
  • Gây tổn hại đến niềm tin của khách hàng

 

  • Luôn kiểm tra chính sách dữ liệu của công cụ AI.
  • Nếu có bất kỳ thắc mắc nào, vui lòng tham khảo ý kiến của chuyên gia CNTT hoặc An ninh mạng.
Ứng dụng AI trong công việc

Từ Rủi ro đến Trách nhiệm

risks_summary_v2.png

 

car.png

Ứng dụng AI trong công việc

Cùng thực hành nào!

Ứng dụng AI trong công việc

Preparing Video For Download...