ChatGPTs begränsningar

Förstå ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT under huven

Att förstå LLM:en

 

Att förstå LLM:en

 

Att förstå LLM:en

Att förstå LLM:en

Att förstå LLM:en

Att förstå LLM:en

Att förstå LLM:en

Begränsning 1 – Kunskapsavstängning

 

 

• Tränad på data fram till ett visst datum:
  • GPT 3.5: januari 2022
  • GPT 4: april 2023
• Känner inte till händelser efter detta datum

 

Begränsning 2 – Snedvridning i träningsdata

 

• ChatGPT tränades på en stor textdatamängd, bland annat:

  • Böcker
  • Artiklar
  • Webbplatser

• Modellen kan lära sig snedvridningar från träningsdata

• Kan påverka svaren

Begränsning 3 – Kontexthantering

 

Begränsning 3 – Kontexthantering

 

Begränsning 3 – Kontexthantering

 

• Svårt att hålla reda på kontexten när fokus skiftar
• Kan leda till felaktiga eller irrelevanta svar
• Tips: Håll konversationer till ett enda ämne

 

Begränsning 4 – Hallucination

 

• Modellen ger felaktig information med stort självförtroende
• Uppstår ofta när modellen tvingas gå utanför sin kunskap eller förmåga

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Begränsning 5 – Juridiska och etiska överväganden

 

• Exempel: Skapa en låt i en befintlig artists stil
  • Vem äger den nya låten?

 

Begränsning 5 – Juridiska och etiska överväganden

 

• Exempel: Skapa en låt i en befintlig artists stil
  • Vem äger den nya låten?

 

Begränsning 5 – Juridiska och etiska överväganden

 

• Exempel: Skapa en låt i en befintlig artists stil
  • Vem äger den nya låten?

 

• Lätt att hamna i en juridisk gråzon
• Äganderätt och integritet → Kapitel 2

 

Nu kör vi en övning!

Förstå ChatGPT