Hranice a omezení AI

Úvod do AI pro práci

James Chapman

AI Curriculum Manager, DataCamp

Riziko č. 1: Fabrikace znalostí

 

  • Neboli halucinace: AI prezentuje nepravdivé informace jako správné
  • Časté příklady:
    • Nesprávné statistiky
    • Smyšlené citace
    • Vymyšlené události

hallucination1.jpg

Úvod do AI pro práci

Riziko č. 1: Fabrikace znalostí

 

  • Neboli halucinace: AI prezentuje nepravdivé informace jako správné
  • Časté příklady:
    • Nesprávné statistiky
    • Smyšlené citace
    • Vymyšlené události

hallucination2.jpg

Úvod do AI pro práci

Riziko č. 1: Fabrikace znalostí

hallucination3.jpg

Úvod do AI pro práci

Riziko č. 2: Neznalost aktuálních informací

 

  • Datum přerušení znalostí → časový limit znalostí modelu o událostech

  • Příklady:

    • Zastaralé předpisy, ceny, polohy a syntaxe kódu

  • Ověřujte časově citlivé informace z aktuálních zdrojů

  • Mnoho AI nástrojů také podporuje vyhledávání na internetu

recency.png

Úvod do AI pro práci

Riziko č. 3: Zkreslené výstupy

biased.png

 

  • Odráží a zesiluje společenské předsudky z trénovacích dat
  • Výsledek → stereotypní nebo diskriminační obsah
  • Obsah generovaný AI pečlivě kontrolujte!
Úvod do AI pro práci

Riziko č. 4: Lichotivé výstupy

 

  • Lichotivé chování → AI říká to, co chcete slyšet

    • Potvrzuje názory, podporuje rozhodnutí a schvaluje myšlenky

  • Problematické, pokud potřebujete kritický pohled

sycophancy.png

Úvod do AI pro práci

Riziko č. 4: Lichotivé výstupy

 

  • Lichotivé chování → AI říká to, co chcete slyšet

    • Potvrzuje názory, podporuje rozhodnutí a schvaluje myšlenky

  • Problematické, pokud potřebujete kritický pohled

  • Vedlejší produkt způsobu trénování LLM na lidských hodnoceních odpovědí

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Úvod do AI pro práci

Riziko č. 5: Soukromí a únik dat

privacy.png

 

  • Informace sdílené s AI nemusí zůstat soukromé!
  • Nahrávání tabulek, dokumentů nebo klientských dat může být riskantní
  • Data mohou být uložena na externích serverech, použita pro trénování modelů nebo prohledávána
Úvod do AI pro práci

Riziko č. 5: Soukromí a únik dat

crying.png

 

Rizika

  • Porušení zákonů o ochraně osobních údajů (např. GDPR)
  • Ztráta konkurenční výhody
  • Poškození důvěry klientů

 

  • Vždy zkontrolujte zásady ochrany dat daného AI nástroje
  • V případě pochybností: poraďte se s odborníkem na IT nebo informační bezpečnost
Úvod do AI pro práci

Od rizika k odpovědnosti

risks_summary_v2.png

 

car.png

Úvod do AI pro práci

Pojďme si procvičit!

Úvod do AI pro práci

Preparing Video For Download...