Att minska riskerna med AI

Introduktion till AI i arbetslivet

James Chapman

AI Curriculum Manager, DataCamp

Att motverka kunskapsfabrikation

 

Lita men verifiera

  • Dubbelkolla alltid viktig information
    • 📈 Siffror och datapunkter
    • 📖 Citat och referenser
    • 🏛 Historiska fakta och datum
    • 💻 Tekniska detaljer

hallucination1.jpg

Introduktion till AI i arbetslivet

Varför AI överdrivet säkert påstår saker

next_word_prediction.png

  • AI-modeller producerar de mest sannolika nästa orden
  • I träningsdata är "Jag vet inte" statistiskt sällsynt
1 https://openai.com/index/why-language-models-hallucinate/
Introduktion till AI i arbetslivet

Lär AI:n att erkänna osäkerhet

 

🤝 Tillstånd att avstå: "Om du inte är säker, säg 'Jag vet inte' istället för att gissa."

🎯 Kalibrering: "Markera varje påstående som: säkert / osäkert / infererat."

📚 Citera eller märk: "För varje faktapåstående, ange en källa eller märk det som okällt."

 

🧹 Självkontroll: "Lista allt som kan vara fel eller som du antagit."

🧭 Begränsa omfånget: "Håll svaret till det som direkt framgår av indata. Undvik extrapolering."

Introduktion till AI i arbetslivet

Att motverka bristande aktualitet

 

  • Kontrollera alltid kunskapsavstängningsdatumet
  • Verifiera allt som hänt därefter

    • 💰 Priser
    • 🏛 Regelverk
    • 👷 Personalförändringar
    • 📰 Nyheter
  • 🌐 Använd webbsökning som stöd

recency.png

Introduktion till AI i arbetslivet

Att motverka partiska utdata

 

  • Granska utdata kritiskt

    • 🤝 Rekryteringsmaterial
    • ✨ Marknadsföringsinnehåll
    • 👉 Beslutsfattande
  • ❗ Verktyg för biasdetektering

biased.png

Introduktion till AI i arbetslivet

Att motverka instämmande utdata

 

  • 🧭 Styr AI:n mot objektivitet och kritisk analys
  • 🤔 Var skeptisk till AI:ns utdata
  • 💬 Be uttryckligen om kritisk återkoppling
    • Vilka är de potentiella problemen med det här tillvägagångssättet?
    • Vilka alternativa perspektiv finns på den här frågan?

sycophancy.png

Introduktion till AI i arbetslivet

Att motverka integritets- och dataexponering

 

  • Dela aldrig:
    • 🔑 Lösenord eller inloggningsuppgifter
    • 🔍 Kunders personuppgifter (t.ex. PII)
    • 📣 Konfidentiell företagsinformation
    • 📜 Hemliga strategier eller planer

 

  • Tumregel: om du inte skulle publicera det offentligt, klistra inte in det i ett vanligt AI-verktyg

privacy.png

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist1.jpg

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist2.jpg

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist3.jpg

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist4.jpg

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist4_5.jpg

Introduktion till AI i arbetslivet

Din AI-säkerhetschecklista

checklist5.jpg

Introduktion till AI i arbetslivet

Nu kör vi en övning!

Introduktion till AI i arbetslivet

Preparing Video For Download...