Kwestie biznesowe, operacyjne i etyczne

Duże modele językowe w biznesie

Iason Prassides

Content Developer, DataCamp

Przejrzystość

  • Przejrzystość działania LLM
  • Firmy muszą wiedzieć, jak LLM dochodzi do odpowiedzi
  • Kluczowe dla budowania zaufania

Słowa „Prawda" i „Zaufanie" układane z drewnianych klocków

Duże modele językowe w biznesie

Odpowiedzialność

Drewniane figurki ustawione w kółko, jedna w innym kolorze pośrodku

  • Gdy rekomendacje LLM zawodzą
    • Kto ponosi odpowiedzialność?
  • Deweloperzy, którzy zbudowali model?
  • Firma, która go wdrożyła?
Duże modele językowe w biznesie

Ryzyka związane z LLM

  • Ryzyko szerzenia dezinformacji
  • Konsekwencje dla firm, m.in.:
    • Podejmowanie decyzji na podstawie błędnych danych
    • Wpływ na wyniki finansowe
    • Uszczerbek na reputacji
  • Ryzyko wykorzystania LLM jako narzędzia:
    • Oszukiwania, manipulowania i wprowadzania interesariuszy w błąd
    • Generowania ryzyk reputacyjnych i operacyjnych

Rysunek przedstawiający mężczyznę stojącego na blokach z napisem „Risk", mierzącego ich wysokość

Duże modele językowe w biznesie

LLM a środowisko

  • Trenowanie LLM wymaga ogromnej mocy obliczeniowej i zużywa dużo energii
  • Generuje znaczący ślad węglowy
  • Firmy muszą rozumieć wpływ na środowisko i go minimalizować

Robotyczna dłoń trzymająca kulę ziemską, z drzewem rosnącym na jej szczycie

Duże modele językowe w biznesie

Jak budować LLM?

  • Firmy muszą rozważyć praktyczne aspekty
  • Budować własny LLM czy korzystać z dostawcy zewnętrznego?
Duże modele językowe w biznesie

Zasoby technologiczne

Własny model

  • Wymaga znacznych zasobów – infrastruktury obliczeniowej i danych
  • Czy stać firmę na tę inwestycję pod względem finansowym i czasowym?

Dostawca zewnętrzny

  • Natychmiastowy dostęp i skalowalność
  • Brak kosztów rozwoju

Rysunek mężczyzny układającego monety, stojącego na ogromnym budziku

Notatnik z wykresem malejących kosztów operacyjnych, kubek kawy i ręce mężczyzny

Duże modele językowe w biznesie

Spersonalizowane LLM

Własny model

  • Dostosowany do konkretnych potrzeb
  • Modele dostrojone na danych firmowych

Dostawca zewnętrzny

  • Wysoka jakość działania
  • Modele ogólne, chyba że zostaną dostosowane

Słowo „customization" dotykane ludzkim palcem

Szablonowe produkty ułożone na sklepowej półce w różnych odcieniach tego samego koloru

Duże modele językowe w biznesie

Aktualizacje i utrzymanie

Własny model

  • Utrzymanie zapewnia skuteczność i bezpieczeństwo LLM
  • Stały koszt dla firmy

Dostawca zewnętrzny

  • Firma nie ponosi odpowiedzialności
  • Aktualizacje i utrzymanie leżą po stronie dostawcy

Rysunek kobiety rozmawiającej przez telefon, w tle symbole konserwacji i aktualizacji

Napis „Third Party Service" na tablicy z klipsem

Duże modele językowe w biznesie

Zarządzanie danymi

Własny model

  • Pełna kontrola nad danymi
  • Istotne przy przetwarzaniu danych wrażliwych

Dostawca zewnętrzny

  • Może wymagać udostępnienia danych
  • Możliwe ryzyko naruszenia bezpieczeństwa i prywatności

Rysunek mężczyzny przy laptopie, podającego rękę mężczyźnie widocznemu na ekranie

Postacie wykradające i przechwytujące dane z laptopa

Duże modele językowe w biznesie

Efektywność kosztowa

Własny model

  • Równoważenie bieżących kosztów dla zachowania opłacalności
  • Wysokie koszty początkowe

Dostawca zewnętrzny

  • Bieżące koszty subskrypcji
  • Niskie koszty wdrożenia

Rysunek mężczyzny trzymającego wtyczkę łączącą pieniądze z żarówką

Rysunek mężczyzny niosącego kartę przy zaznaczonej dacie w kalendarzu

Duże modele językowe w biznesie

Wybór należy do ciebie!

Drogowskaz pokazujący dwa kierunki: outsourcing lub własny model

Duże modele językowe w biznesie

Czas na praktykę!

Duże modele językowe w biznesie

Preparing Video For Download...