Zakelijke, operationele en ethische aandachtspunten

Large Language Models voor het bedrijfsleven

Iason Prassides

Content Developer, DataCamp

Transparantie

  • Transparantie rond LLM’s
  • Bedrijven moeten weten hoe een LLM tot een antwoord komt
  • Essentieel voor vertrouwen

De woorden "Truth" en "Trust" gelegd met houten blokjes

Large Language Models voor het bedrijfsleven

Verantwoording

Afbeelding van houten figuren in een cirkel, met één figuur in een andere kleur in het midden

  • Als aanbevelingen van LLM’s niet werken
    • Wie is verantwoordelijk?
  • Softwareontwikkelaars die het model ontwierpen?
  • Het bedrijf dat het inzette?
Large Language Models voor het bedrijfsleven

Risico’s van LLM’s

  • Inherente kans op verspreiding van desinformatie
  • Gevolgen voor bedrijven, zoals:
    • Beslissingen baseren op foutieve data
    • Impact op de winstgevendheid
    • Reputatieschade
  • Gevaar dat LLM’s worden misbruikt:
    • Misleiden, manipuleren, stakeholders bedriegen
    • Reputatie- en operationele risico’s

Cartoon van een man op blokken met het woord "Risk" die de hoogte van het risico meet

Large Language Models voor het bedrijfsleven

LLM’s en het milieu

  • Rekenkracht voor LLM-training vergt veel energie
  • Zorgt voor een grote CO₂-voetafdruk
  • Bedrijven moeten impact begrijpen en beperken

Een robotische hand die de aarde vasthoudt, met een boom erop groeiend

Large Language Models voor het bedrijfsleven

Hoe LLM’s bouwen?

  • Bedrijven hebben praktische afwegingen
  • Zelf LLM bouwen of een derde partij gebruiken?
Large Language Models voor het bedrijfsleven

Technologische middelen

In-house

  • Veel middelen nodig: compute-infra en data
  • Kun je investeren? Geld en tijd?

Derde partij

  • Directe toegang en schaalbaarheid
  • Geen ontwikkeloverhead

Cartoon van een man die munten stapelt terwijl hij op een gigantische wekker staat

Afbeelding van een notitieboek met dalende operationele kosten, met ook een koffiemok en de armen van een man zichtbaar

Large Language Models voor het bedrijfsleven

Gepersonaliseerde LLM’s

In-house

  • Af te stemmen op specifieke behoeften
  • Fijn-afgestemde modellen op bedrijfsdata

Derde partij

  • Geavanceerde performance
  • Meer generieke modellen, tenzij aangepast

Afbeelding van het woord "customization" dat door een vinger wordt aangeraakt

Afbeelding van generieke producten in een supermarkt, met producten in verschillende tinten van dezelfde kleur

Large Language Models voor het bedrijfsleven

Updates en onderhoud

In-house

  • Onderhoud houdt LLM’s effectief en veilig
  • Doorlopende kosten

Derde partij

  • Bedrijf niet zelf verantwoordelijk
  • Provider regelt updates en onderhoud

Cartoon van een vrouw met haar telefoon, met beelden van onderhoud en tech-updates op de achtergrond

Afbeelding met de woorden "Third Party Service" op een formulier op een klembord

Large Language Models voor het bedrijfsleven

Omgaan met data

In-house

  • Behoud controle over data
  • Belangrijk bij gevoelige data

Derde partij

  • Kan datadeling vereisen
  • Mogelijke risico’s voor security en privacy

Cartoon van een man achter een laptop die een hand schudt met iemand in het laptopscherm

Cartoons van verschillende figuren die informatie van een laptop stelen of verkrijgen

Large Language Models voor het bedrijfsleven

Kostenefficiëntie

In-house

  • Balans in terugkerende kosten voor kosteneffectiviteit
  • Opstartkosten zijn hoog

Derde partij

  • Terugkerende kosten
  • Lage opstartkosten

Cartoon van een man met een stekker die geld met een gloeilamp verbindt

Cartoon van een man met een betaalkaart voor een specifieke datum op een kalender

Large Language Models voor het bedrijfsleven

De keuze is aan jou!

Een wegwijzer met twee richtingen: uitbesteden of in-house

Large Language Models voor het bedrijfsleven

Laten we oefenen!

Large Language Models voor het bedrijfsleven

Preparing Video For Download...