Granice i ograniczenia AI

Wprowadzenie do AI w pracy

James Chapman

AI Curriculum Manager, DataCamp

Ryzyko #1: Fabrykowanie wiedzy

 

  • Inaczej halucynacja: fałszywe informacje przedstawiane przez AI jako prawdziwe
  • Przykłady:
    • Błędne statystyki
    • Fałszywe cytaty
    • Zmyślone zdarzenia

hallucination1.jpg

Wprowadzenie do AI w pracy

Ryzyko #1: Fabrykowanie wiedzy

 

  • Inaczej halucynacja: fałszywe informacje przedstawiane przez AI jako prawdziwe
  • Przykłady:
    • Błędne statystyki
    • Fałszywe cytaty
    • Zmyślone zdarzenia

hallucination2.jpg

Wprowadzenie do AI w pracy

Ryzyko #1: Fabrykowanie wiedzy

hallucination3.jpg

Wprowadzenie do AI w pracy

Ryzyko #2: Brak aktualnej wiedzy

 

  • Data graniczna wiedzy → limit dat, do których model ma wiedzę o zdarzeniach

  • Przykłady:

    • Nieaktualne przepisy, ceny, lokalizacje i składnia kodu

  • Weryfikuj wrażliwe czasowo fakty w bieżących źródłach

  • Wiele narzędzi AI obsługuje też wyszukiwanie w internecie

recency.png

Wprowadzenie do AI w pracy

Ryzyko #3: Stronnicze odpowiedzi

biased.png

 

  • Odzwierciedla i wzmacnia stronniczość społeczną z danych treningowych
  • Skutek → treści stereotypowe lub dyskryminujące
  • Dokładnie weryfikuj treści generowane przez AI!
Wprowadzenie do AI w pracy

Ryzyko #4: Nadmierna uległość

 

  • Nadmierna uległość → AI mówi to, co chcesz usłyszeć

    • Potwierdza poglądy, wspiera decyzje i utwierdza w przekonaniach

  • Problem, gdy potrzebujesz krytycznego spojrzenia

sycophancy.png

Wprowadzenie do AI w pracy

Ryzyko #4: Nadmierna uległość

 

  • Nadmierna uległość → AI mówi to, co chcesz usłyszeć

    • Potwierdza poglądy, wspiera decyzje i utwierdza w przekonaniach

  • Problem, gdy potrzebujesz krytycznego spojrzenia

  • Efekt uboczny uczenia LLM-ów na ludzkich ocenach odpowiedzi

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Wprowadzenie do AI w pracy

Ryzyko #5: Prywatność i ujawnianie danych

privacy.png

 

  • Dane udostępniane narzędziom AI mogą nie pozostać prywatne!
  • Przesyłanie arkuszy, dokumentów czy danych klientów może być ryzykowne
  • Dane mogą być przechowywane na zewnętrznych serwerach, używane do trenowania modeli lub być przeszukiwalne
Wprowadzenie do AI w pracy

Ryzyko #5: Prywatność i ujawnianie danych

crying.png

 

Ryzyka

  • Naruszenie przepisów o ochronie danych (np. RODO)
  • Utrata przewagi konkurencyjnej
  • Nadszarpnięcie zaufania klientów

 

  • Zawsze sprawdzaj politykę danych narzędzia AI
  • W razie wątpliwości: skonsultuj się z ekspertem ds. IT lub bezpieczeństwa informacji
Wprowadzenie do AI w pracy

Od ryzyka do odpowiedzialności

risks_summary_v2.png

 

car.png

Wprowadzenie do AI w pracy

Czas na praktykę!

Wprowadzenie do AI w pracy

Preparing Video For Download...