Limitele și restricțiile IA

Introducere în AI pentru muncă

James Chapman

AI Curriculum Manager, DataCamp

Riscul #1: Fabricarea cunoștințelor

 

  • Sau halucinație: informații false prezentate incorect ca adevărate de IA
  • Exemple frecvente:
    • Statistici incorecte
    • Citări false
    • Evenimente inventate

hallucination1.jpg

Introducere în AI pentru muncă

Riscul #1: Fabricarea cunoștințelor

 

  • Sau halucinație: informații false prezentate incorect ca adevărate de IA
  • Exemple frecvente:
    • Statistici incorecte
    • Citări false
    • Evenimente inventate

hallucination2.jpg

Introducere în AI pentru muncă

Riscul #1: Fabricarea cunoștințelor

hallucination3.jpg

Introducere în AI pentru muncă

Riscul #2: Ignoranța față de actualitate

 

  • Data limită a cunoștințelor → limita temporală a cunoașterii evenimentelor de către model

  • Exemple:

    • Reglementări, prețuri, locații și sintaxă de cod depășite

  • Verificați faptele sensibile la timp din surse actuale

  • Multe instrumente IA suportă și căutarea pe internet

recency.png

Introducere în AI pentru muncă

Riscul #3: Răspunsuri părtinitoare

biased.png

 

  • Reflectă și amplifică prejudecăți sociale din datele de antrenament
  • Rezultat → conținut stereotip sau discriminatoriu
  • Verificați cu atenție conținutul generat de IA!
Introducere în AI pentru muncă

Riscul #4: Răspunsuri sycofantice

 

  • Sycofantic → îți spune ce crede că vrei să auzi

    • Validează perspective, susține decizii și confirmă raționamentul

  • Problematic când aveți nevoie de o perspectivă critică

sycophancy.png

Introducere în AI pentru muncă

Riscul #4: Răspunsuri sycofantice

 

  • Sycofantic → îți spune ce crede că vrei să auzi

    • Validează perspective, susține decizii și confirmă raționamentul

  • Problematic când aveți nevoie de o perspectivă critică

  • Rezultat al modului în care LLM-urile sunt antrenate pe evaluări umane

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introducere în AI pentru muncă

Riscul #5: Confidențialitate și expunerea datelor

privacy.png

 

  • Informațiile partajate cu instrumentele IA pot deveni publice!
  • Încărcarea foilor de calcul, documentelor sau datelor clienților poate fi riscantă
  • Datele pot fi stocate pe servere externe, folosite pentru antrenament sau indexate
Introducere în AI pentru muncă

Riscul #5: Confidențialitate și expunerea datelor

crying.png

 

Riscuri

  • Încălcarea legilor privind confidențialitatea (ex.: GDPR)
  • Pierderea avantajului competitiv
  • Afectarea încrederii clienților

 

  • Verificați întotdeauna politica de date a instrumentului IA
  • În caz de îndoială: consultați un expert IT sau InfoSec
Introducere în AI pentru muncă

De la risc la responsabilitate

risks_summary_v2.png

 

car.png

Introducere în AI pentru muncă

Să exersăm!

Introducere în AI pentru muncă

Preparing Video For Download...