Giảm thiểu rủi ro của AI

Ứng dụng AI trong công việc

James Chapman

AI Curriculum Manager, DataCamp

Giảm thiểu việc bịa đặt kiến thức

Tin tưởng nhưng xác minh tư duy

  • Luôn kiểm tra kỹ thông tin quan trọng
    • 📈 Số liệu và điểm dữ liệu
    • 📖 Trích dẫn và tài liệu tham khảo
    • 🏛 Sự kiện lịch sử và ngày tháng
    • 💻 Chi tiết kỹ thuật

hallucination1.jpg

Ứng dụng AI trong công việc

Tại sao AI nói quá mức

next_word_prediction.png

  • Các mô hình AI tạo ra những từ tiếp theo có khả năng cao nhất
  • Trong dữ liệu huấn luyện của chúng, \"I don't know\" hiếm về mặt thống kê
1 https://openai.com/index/why-language-models-hallucinate/
Ứng dụng AI trong công việc

Huấn luyện AI thừa nhận sự không chắc chắn

 

🤝 Quyền từ chối trả lời: \"Nếu bạn không chắc, hãy nói 'Tôi không biết' thay vì đoán.\"

🎯 Hiệu chỉnh: \"Đánh dấu mỗi khẳng định là: chắc chắn / không chắc / suy luận.\"

📚 Trích dẫn hoặc gắn nhãn: \"Với mọi khẳng định तथ्य, cung cấp nguồn hoặc gắn nhãn là không có nguồn.\"

 

🧹 Tự kiểm tra: \"Liệt kê bất cứ điều gì có thể sai hoặc bạn đã giả định.\"

🧭 Giới hạn phạm vi: \"Giới hạn câu trả lời của bạn ở những gì được nêu trực tiếp trong đầu vào. Đừng ngoại suy.\"

Ứng dụng AI trong công việc

Giảm thiểu sự bỏ qua tính gần đây

  • Luôn kiểm tra ngày cắt kiến thức

  • Xác minh mọi việc xảy ra sau đó

    • 💰 Giá cả
    • 🏛 Quy định
    • 👷 Thay đổi nhân sự
    • 📰 Tin tức

  • 🌐 Dùng hỗ trợ duyệt web

recency.png

Ứng dụng AI trong công việc

Giảm thiểu đầu ra thiên lệch

  • Đánh giá đầu ra một cách nghiêm túc

    • 🤝 Tài liệu tuyển dụng
    • ✨ Nội dung marketing
    • 👉 Ra quyết định

  • ❗ Công cụ phát hiện thiên kiến

biased.png

Ứng dụng AI trong công việc

Giảm thiểu đầu ra nịnh hót

  • 🧭 Hướng dẫn AI hướng tới tính khách quan và phân tích phản biện
  • 🤔 Giữ thái độ hoài nghi với đầu ra của AI
  • 💬 Yêu cầu phản hồi phản biện một cách rõ ràng
    • Những vấn đề tiềm ẩn với cách tiếp cận này là gì?
    • Có những góc nhìn thay thế nào về vấn đề này?

sycophancy.png

Ứng dụng AI trong công việc

Giảm thiểu rủi ro về quyền riêng tư và lộ dữ liệu

 

  • Không bao giờ chia sẻ:{{1}} 🔑 Mật khẩu hoặc thông tin đăng nhập{{2}} 🔍 Dữ liệu cá nhân của khách hàng (ví dụ: PII){{3}} 📣 Thông tin độc quyền của công ty{{4}} 📜 Chiến lược hoặc kế hoạch mật
  • Nguyên tắc chung: nếu bạn sẽ không đăng công khai, đừng dán nó vào một công cụ AI tiêu chuẩn

privacy.png

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist1.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist2.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist3.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist4.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist4_5.jpg

Ứng dụng AI trong công việc

Danh sách kiểm tra an toàn AI của bạn

checklist5.jpg

Ứng dụng AI trong công việc

Hãy luyện tập!

Ứng dụng AI trong công việc

Preparing Video For Download...