Giảm thiểu rủi ro của AI

Ứng dụng AI trong công việc

James Chapman

AI Curriculum Manager, DataCamp

Giảm thiểu Tạo thông tin sai lệch

Tư duy tin tưởng nhưng vẫn xác minh

  • Luôn kiểm tra lại thông tin quan trọng
    • 📈 Số liệu và điểm dữ liệu
    • 📖 Trích dẫn và tài liệu tham khảo
    • 🏛 Sự kiện và mốc thời gian lịch sử
    • 💻 Chi tiết kỹ thuật

hallucination1.jpg

Ứng dụng AI trong công việc

Vì sao AI đưa ra những khẳng định quá mức

next_word_prediction.png

  • Các mô hình AI tạo ra những từ tiếp theo có khả năng xuất hiện cao nhất
  • Trong dữ liệu huấn luyện của chúng, "Tôi không biết" là hiếm gặp về mặt thống kê
1 https://openai.com/index/why-language-models-hallucinate/
Ứng dụng AI trong công việc

Huấn luyện AI thừa nhận khi không chắc chắn

🤝 Được phép không trả lời: "Nếu không chắc chắn, hãy nói 'Tôi không biết' thay vì đoán."

🎯 Hiệu chuẩn: "Đánh dấu từng nhận định là: chắc chắn / không chắc chắn / suy luận."

📚 Trích dẫn nguồn hoặc gắn nhãn: "Với mọi khẳng định thực tế, hãy cung cấp nguồn hoặc gắn nhãn là chưa có nguồn."

🧹 Lượt tự kiểm tra: "Liệt kê mọi điều có thể sai hoặc những điều bạn đã giả định."

🧭 Giới hạn phạm vi: "Chỉ trả lời những gì được nêu trực tiếp trong đầu vào." Đừng suy diễn."

Ứng dụng AI trong công việc

Giảm thiểu tình trạng thiếu cập nhật tin tức, sự kiện

  • Luôn kiểm tra ngày giới hạn kiến thức
  • Xác minh mọi sự kiện đã xảy ra sau đó

    • 💰 Giá cả
    • 🏛 Quy định
    • 👷 Thay đổi nhân sự
    • 📰 Tin tức
  • 🌐 Sử dụng tính năng hỗ trợ duyệt web

recency.png

Ứng dụng AI trong công việc

Giảm thiểu đầu ra thiên lệch

  • Đánh giá kỹ lưỡng các đầu ra

    • 🤝 Tài liệu tuyển dụng
    • ✨ Nội dung tiếp thị
    • 👉 Ra quyết định
  • ❗ Công cụ phát hiện thiên kiến

biased.png

Ứng dụng AI trong công việc

Giảm thiểu đầu ra xu nịnh

  • 🧭 Định hướng AI theo hướng khách quan và phân tích phản biện
  • 🤔 Luôn hoài nghi về kết quả đầu ra của AI
  • 💬 Chủ động yêu cầu phản hồi mang tính phê bình
    • Những vấn đề tiềm ẩn của cách tiếp cận này là gì?
    • Một số góc nhìn khác về vấn đề này là gì?

sycophancy.png

Ứng dụng AI trong công việc

Giảm thiểu nguy cơ xâm phạm quyền riêng tư và lộ dữ liệu

  • Không bao giờ chia sẻ:
    • 🔑 Mật khẩu hoặc thông tin đăng nhập
    • 🔍 Dữ liệu cá nhân của khách hàng (ví dụ: PII)
    • 📣 Thông tin độc quyền của công ty
    • 📜 Chiến lược hoặc kế hoạch mật
  • Quy tắc kinh nghiệm: nếu bạn không muốn đăng nội dung đó công khai, đừng gửi nội dung đó vào công cụ AI thông thường

privacy.png

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI

checklist1.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI

checklist2.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI

checklist3.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI

checklist4.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI

checklist4_5.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn khi sử dụng AI

checklist5.jpg

Ứng dụng AI trong công việc

Cùng thực hành nào!

Ứng dụng AI trong công việc

Preparing Video For Download...