Ograniczanie ryzyka związanego z AI

Wprowadzenie do AI w pracy

James Chapman

AI Curriculum Manager, DataCamp

Ograniczanie halucynacji AI

 

Nastawienie: ufaj, ale sprawdzaj

  • Zawsze weryfikuj kluczowe informacje
    • 📈 Liczby i dane
    • 📖 Cytaty i źródła
    • 🏛 Fakty historyczne i daty
    • 💻 Szczegóły techniczne

hallucination1.jpg

Wprowadzenie do AI w pracy

Dlaczego AI twierdzi zbyt wiele?

next_word_prediction.png

  • Modele AI generują najbardziej prawdopodobne kolejne słowa
  • W danych treningowych fraza „Nie wiem" jest statystycznie rzadka
1 https://openai.com/index/why-language-models-hallucinate/
Wprowadzenie do AI w pracy

Jak skłonić AI do przyznania się do niepewności

 

🤝 Przyzwolenie na przyznanie się do niewiedzy: „Jeśli nie jesteś pewna odpowiedzi, napisz «Nie wiem», zamiast zgadywać."

🎯 Kalibracja: „Przy każdym stwierdzeniu zaznacz: pewne / niepewne / wywnioskowane."

📚 Podaj źródło lub oznacz: „Dla każdego faktu podaj źródło lub zaznacz, że go nie ma."

 

🧹 Samokontrola: „Wymień wszystko, co może być błędne lub co założono bez weryfikacji."

🧭 Ogranicz zakres: „Odpowiadaj tylko na podstawie tego, co wprost wynika z danych wejściowych. Nie wyciągaj własnych wniosków."

Wprowadzenie do AI w pracy

Ograniczanie problemu nieaktualnej wiedzy

 

  • Zawsze sprawdzaj datę graniczną wiedzy modelu

  • Weryfikuj wszystko, co wydarzyło się później

    • 💰 Ceny
    • 🏛 Przepisy i regulacje
    • 👷 Zmiany kadrowe
    • 📰 Aktualności

  • 🌐 Korzystaj z funkcji przeglądania internetu

recency.png

Wprowadzenie do AI w pracy

Ograniczanie stronniczości w wynikach AI

 

  • Krytycznie analizuj wyniki

    • 🤝 Materiały rekrutacyjne
    • ✨ Treści marketingowe
    • 👉 Podejmowanie decyzji

  • ❗ Narzędzia do wykrywania stronniczości

biased.png

Wprowadzenie do AI w pracy

Ograniczanie nadmiernej uległości AI

 

  • 🧭 Nakierowuj AI na obiektywność i krytyczną analizę
  • 🤔 Zachowaj sceptycyzm wobec odpowiedzi AI
  • 💬 Wprost proś o krytyczną informację zwrotną
    • Jakie są potencjalne problemy z tym podejściem?
    • Jakie inne punkty widzenia można przyjąć w tej sprawie?

sycophancy.png

Wprowadzenie do AI w pracy

Ograniczanie ryzyka naruszenia prywatności i wycieku danych

 

  • Nigdy nie udostępniaj:
    • 🔑 Haseł i danych uwierzytelniających
    • 🔍 Danych osobowych klientów (np. PII)
    • 📣 Poufnych informacji firmowych
    • 📜 Tajnych strategii i planów

 

  • Prosta zasada: jeśli nie zamieściłbyś czegoś publicznie, nie wklejaj tego do standardowego narzędzia AI

privacy.png

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist1.jpg

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist2.jpg

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist3.jpg

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist4.jpg

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist4_5.jpg

Wprowadzenie do AI w pracy

Lista kontrolna bezpiecznego korzystania z AI

checklist5.jpg

Wprowadzenie do AI w pracy

Czas na praktykę!

Wprowadzenie do AI w pracy

Preparing Video For Download...