AI:s gränser och begränsningar

Introduktion till AI i arbetslivet

James Chapman

AI Curriculum Manager, DataCamp

Risk #1: Kunskapsfabrikation

 

  • Även kallat hallucination: falsk information som AI presenterar som korrekt
  • Vanliga exempel:
    • Felaktig statistik
    • Falska källhänvisningar
    • Fabricerade händelser

hallucination1.jpg

Introduktion till AI i arbetslivet

Risk #1: Kunskapsfabrikation

 

  • Även kallat hallucination: falsk information som AI presenterar som korrekt
  • Vanliga exempel:
    • Felaktig statistik
    • Falska källhänvisningar
    • Fabricerade händelser

hallucination2.jpg

Introduktion till AI i arbetslivet

Risk #1: Kunskapsfabrikation

hallucination3.jpg

Introduktion till AI i arbetslivet

Risk #2: Föråldrad kunskap

 

  • Kunskapsavstängningsdatum → gräns för modellens kännedom om händelser
  • Exempel:

    • Föråldrade regler, priser, platser och kodsyntax
  • Verifiera tidskänsliga fakta från aktuella källor

  • Många AI-verktyg stöder även internetsökning

recency.png

Introduktion till AI i arbetslivet

Risk #3: Partiska resultat

biased.png

 

  • Återspeglar och förstärker sociala fördomar från träningsdatan
  • Resultat → stereotypt eller diskriminerande innehåll
  • Granska AI-genererat innehåll noga!
Introduktion till AI i arbetslivet

Risk #4: Sycofantiska svar

 

  • Sycofantiskt → säger det du förväntas vilja höra

    • Bekräftar perspektiv, stöder beslut och instämmer i resonemang
  • Problematiskt när du behöver ett kritiskt perspektiv

sycophancy.png

Introduktion till AI i arbetslivet

Risk #4: Sycofantiska svar

 

  • Sycofantiskt → säger det du förväntas vilja höra

    • Bekräftar perspektiv, stöder beslut och instämmer i resonemang
  • Problematiskt när du behöver ett kritiskt perspektiv

  • En följd av hur LLM:er tränas på mänskliga betyg av svar

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introduktion till AI i arbetslivet

Risk #5: Integritet och dataexponering

privacy.png

 

  • Information du delar med AI-verktyg kanske inte förblir privat!
  • Att ladda upp kalkylblad, dokument eller klientdata kan vara riskabelt
  • Data kan lagras på externa servrar, användas för modellträning eller bli sökbar
Introduktion till AI i arbetslivet

Risk #5: Integritet och dataexponering

crying.png

 

Risker

  • Brott mot integritetslagar (t.ex. GDPR)
  • Förlust av konkurrensfördelar
  • Skadat förtroende hos klienter

 

  • Kontrollera alltid AI-verktygets datapolicy
  • Vid osäkerhet: rådfråga en IT- eller informationssäkerhetsexpert
Introduktion till AI i arbetslivet

Från risk till ansvar

risks_summary_v2.png

 

car.png

Introduktion till AI i arbetslivet

Nu kör vi en övning!

Introduktion till AI i arbetslivet

Preparing Video For Download...