Preocupări de afaceri, operaționale și etice

Large Language Models pentru afaceri

Iason Prassides

Content Developer, DataCamp

Transparență

  • Transparență în privința LLM-urilor
  • Companiile trebuie să știe cum ajunge un LLM la un răspuns
  • Esențial pentru crearea încrederii

Cuvintele „Adevăr" și „Încredere" scrise cu blocuri de lemn

Large Language Models pentru afaceri

Responsabilitate

Imagine cu figurine de lemn în cerc, cu o figurină de altă culoare în mijloc

  • Dacă recomandările LLM-ului nu funcționează
    • Cine este responsabil?
  • Dezvoltatorii software care au conceput modelul?
  • Compania care l-a implementat?
Large Language Models pentru afaceri

Riscurile LLM-urilor

  • Risc inerent de propagare a dezinformării
  • Repercusiuni pentru companii, inclusiv:
    • Decizii bazate pe date incorecte
    • Impact asupra rezultatelor financiare
    • Deteriorarea reputației
  • Pericolul utilizării LLM-urilor ca armă:
    • Înșelarea, manipularea, inducerea în eroare a părților interesate
    • Riscuri reputaționale și operaționale

Desen cu un bărbat stând pe blocuri care formează cuvântul „Risc", măsurând înălțimea riscului

Large Language Models pentru afaceri

LLM-urile și mediul înconjurător

  • Puterea de calcul necesară antrenării LLM-urilor consumă multă energie
  • Generează o amprentă mare de carbon
  • Companiile trebuie să înțeleagă și să atenueze impactul asupra mediului

O mână robotică ținând planeta Pământ, cu un copac crescând din vârf

Large Language Models pentru afaceri

Cum se construiesc LLM-urile?

  • Companiile au considerente pragmatice de evaluat
  • LLM-uri interne sau furnizori terți?
Large Language Models pentru afaceri

Resurse tehnologice

Intern

  • Resurse semnificative necesare – infrastructură de calcul și date
  • Se poate face investiția? Bani și timp?

Terț

  • Acces imediat și scalabilitate
  • Fără costuri de dezvoltare

Imagine cu un om stivuind monede, stând pe un ceas deșteptător gigant

Imagine cu un caiet ce arată cheltuieli operaționale în scădere, cu o cană de cafea și brațele unui bărbat

Large Language Models pentru afaceri

LLM-uri personalizate

Intern

  • LLM-uri adaptate nevoilor specifice
  • Modele ajustate fin pe baza datelor companiei

Terț

  • Performanță sofisticată
  • Modele mai generice, dacă nu sunt personalizate

Imagine cu cuvântul „personalizare" atins de un deget uman

Imagine cu produse generice stivuite într-un supermarket, în nuanțe diferite ale aceleiași culori

Large Language Models pentru afaceri

Actualizări și întreținere

Intern

  • Întreținerea asigură eficiența și securitatea LLM-urilor
  • Cost continuu pentru companie

Terț

  • Companiile nu sunt responsabile
  • Furnizorul gestionează actualizările și întreținerea

Imagine cu o femeie la telefon, cu imagini de întreținere și actualizări tehnologice în fundal

Imagine cu textul „Serviciu Terț" pe o planșetă

Large Language Models pentru afaceri

Gestionarea datelor

Intern

  • Păstrarea controlului asupra datelor
  • Important când se utilizează date sensibile

Terț

  • Poate necesita partajarea datelor
  • Riscuri posibile de securitate și confidențialitate

Imagine cu un bărbat folosind un laptop în timp ce dă mâna cu un alt bărbat aflat pe ecranul laptopului

Imagini cu personaje care fură și obțin informații de pe un laptop

Large Language Models pentru afaceri

Eficiența costurilor

Intern

  • Echilibrarea costurilor recurente pentru eficiență
  • Costuri inițiale ridicate

Terț

  • Costuri recurente
  • Costuri inițiale reduse

Imagine cu un bărbat ținând un fișă și o priză care va conecta banii cu un bec

Imagine cu un bărbat purtând un card în fața unei date specifice pe un calendar

Large Language Models pentru afaceri

Alegerea vă aparține!

Un indicator rutier cu două direcții posibile – externalizare sau intern

Large Language Models pentru afaceri

Să exersăm!

Large Language Models pentru afaceri

Preparing Video For Download...