Când să ai încredere în LLM-uri

Large Language Models pentru afaceri

Iason Prassides

Content Developer, DataCamp

Maximizând Duolingo

  • Duolingo Max
    • Utilizează ChatGPT pentru conversații similare celor umane

Imaginea logo-ului produsului Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models pentru afaceri

Maximizând Duolingo

  • Duolingo Max
    • Utilizează ChatGPT pentru conversații similare celor umane
  • Cursanții exersează limbi străine
    • GPT adoptă diferite personalități
    • Oferă feedback instant

Imagine care arată utilizarea Duolingo Max pe o aplicație mobilă

1 https://blog.duolingo.com/duolingo-max/
Large Language Models pentru afaceri

Înțelegerea LLM-urilor

  • Liderii de afaceri trebuie să înțeleagă cu adevărat LLM-urile
  • LLM-urile nu sunt magie!
    • Adesea prezic următoarea parte a unei secvențe
  • Nu înțeleg limbajul ca oamenii

Magician cu o baghetă realizând trucuri

Large Language Models pentru afaceri

Simț comun în LLM-uri?

Bărbat care ține un carton cu inscripția „simț comun"

  • LLM-urile nu au noțiunea de „adevăr"
  • Le lipsește simțul comun
  • Supravegherea umană este esențială
  • Dependența exclusivă de LLM-uri poate genera consecințe nedorite
Large Language Models pentru afaceri

Supravegherea antrenării

  • LLM-urile depind de datele utilizate la antrenare
  • Prejudecățile sau inechitățile sociale pot fi amplificate
    • Verificați răspunsurile pentru a identifica rezultate dăunătoare

Imagine cu monede stivuite la înălțimi diferite și piese de joc de culori diferite pe fiecare stivă

Large Language Models pentru afaceri

Există prejudecăți?

  • LLM-urile se antrenează și pe comentarii dăunătoare
    • Răspunsurile vor fi și ele dăunătoare
  • Seturi de date cu prejudecăți
    • Generează LLM-uri cu rezultate sistematic distorsionate
  • Pot perpetua prejudecăți, stereotipuri sau dezinformare
  • Dezvoltatorii au adăugat măsuri de prevenție
  • Companiile trebuie să fie conștiente și să implementeze garanții

Imagine cu cuvântul dezinformare

Large Language Models pentru afaceri

Flexibilitatea și consecințele sale

  • Același prompt -> răspunsuri diferite
  • Util în activități creative, problematic în alte contexte
  • Echipa de marketing creează descrieri de produse cu LLM-uri:
    • Clienții văd descrieri diferite
    • Imaginea brandului poate fi afectată

Bărbat care compară două produse în supermarket, aparent identice, cu ambalaje de culori diferite

Large Language Models pentru afaceri

Alertă de securitate!

  • LLM-urile sunt complexe, dar pot fi manipulate
  • Atacatorii pot insera prompturi dăunătoare pe site-uri web
    • Pot distorsiona rezultatele LLM-urilor
  • Cunoscut ca injectare de prompturi
  • Poate cauza daune reputaționale

Imagine cu un semn de exclamare roșu într-un triunghi indicând o alertă de securitate

Large Language Models pentru afaceri

Provocările LLM-urilor

  • Multe provocări sunt specifice industriei
  • Open Worldwide Application Security Project (OWASP)
    • Cuantificarea provocărilor
  • Companiile trebuie să fie conștiente de riscuri
  • Trebuie să înțeleagă complexitatea LLM-urilor
  • Să asigure supravegherea umană
  • Să investească în instruire și securitate

Indicator rutier cu un om sărind un obstacol și textul „Provocări înainte"

1 https://owasp.org/
Large Language Models pentru afaceri

Să exersăm!

Large Language Models pentru afaceri

Preparing Video For Download...