Quando fidarti degli LLM

Large Language Models per il business

Iason Prassides

Content Developer, DataCamp

Massimizzare Duolingo

  • Duolingo Max
    • Usa ChatGPT per conversazioni naturali

Logo del prodotto Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models per il business

Massimizzare Duolingo

  • Duolingo Max
    • Usa ChatGPT per conversazioni naturali
  • Chi impara pratica le lingue
    • GPT assume personalità diverse
    • Dà feedback immediato

Uso di Duolingo Max in un’app su smartphone

1 https://blog.duolingo.com/duolingo-max/
Large Language Models per il business

Capire gli LLM

  • I leader aziendali devono capire davvero gli LLM
  • Gli LLM non sono magia!
    • Spesso prevedono la parte successiva di una sequenza
  • Non capiscono il linguaggio come gli umani

Mago con bacchetta che fa trucchi

Large Language Models per il business

Buon senso negli LLM?

Uomo che tiene un cartellino con su scritto "common sense"

  • Gli LLM non sanno cosa è "vero"
  • Mancano di buon senso
  • Serve supervisione umana in ogni caso d’uso
  • Affidarsi solo agli LLM può avere effetti indesiderati
Large Language Models per il business

Supervisione nel training

  • Gli LLM dipendono dai dati di training
  • Possono amplificare bias o ingiustizie sociali
    • Verifica le risposte per trovare output dannosi

Monete impilate a diverse altezze con pedine di colori diversi sopra ogni pila

Large Language Models per il business

C’è bias?

  • Gli LLM usano anche commenti d’odio per il training
    • Le risposte possono risultare odiose
  • Dataset con bias
    • Generano LLM con bias sistemici negli output
  • Rischio di perpetuare pregiudizi, stereotipi o disinformazione
  • I developer hanno aggiunto misure di prevenzione
  • Le aziende devono essere consapevoli e mettere salvaguardie

Immagine con la parola misinformation

Large Language Models per il business

Flessibilità e conseguenze

  • Stesso prompt -> risposte diverse
  • Utile per creatività, problematico altrove
  • Marketing crea descrizioni prodotto con LLM:
    • I clienti vedono descrizioni diverse
    • L’immagine del brand può risentirne

Uomo che guarda due prodotti al supermercato uguali tranne il colore della confezione

Large Language Models per il business

Allerta sicurezza!

  • Gli LLM sono complessi ma aggirabili
  • Attaccanti possono incorporare prompt dannosi nei siti
    • Possono distorcere gli output degli LLM
  • Conosciuto come prompt injection
  • Può danneggiare la reputazione

Immagine con un punto esclamativo rosso in un triangolo: allerta sicurezza

Large Language Models per il business

La sfida con gli LLM

  • Molte sfide sono specifiche del settore
  • Open Worldwide Application Security Project (OWASP)
    • Quantifica le sfide
  • Le aziende devono conoscere i rischi
  • Capire le complessità degli LLM
  • Garantire supervisione umana
  • Investire in formazione e sicurezza

Cartello stradale con un uomo che salta un ostacolo e la scritta "Challenges Ahead"

1 https://owasp.org/
Large Language Models per il business

Passons à la pratique !

Large Language Models per il business

Preparing Video For Download...