Kiedy ufać dużym modelom językowym?

Duże modele językowe w biznesie

Iason Prassides

Content Developer, DataCamp

Duolingo Max w praktyce

• Duolingo Max
  • Wykorzystuje ChatGPT do naturalnych rozmów

¹ https://blog.duolingo.com/duolingo-max/

Duolingo Max w praktyce

• Duolingo Max
  • Wykorzystuje ChatGPT do naturalnych rozmów
• Uczący się ćwiczą języki
  • GPT przyjmuje różne osobowości
  • Dostarcza natychmiastowej informacji zwrotnej

¹ https://blog.duolingo.com/duolingo-max/

Czym są LLM-y?

• Liderzy biznesu muszą naprawdę rozumieć LLM-y
• LLM-y to nie magia!
  • Często przewidują kolejny element sekwencji
• Nie rozumieją języka tak jak ludzie

Czy LLM-y mają zdrowy rozsądek?

• LLM-y nie mają pojęcia, co jest „prawdą"
• Brakuje im zdrowego rozsądku
• Nadzór człowieka jest kluczowy w każdym zastosowaniu
• Poleganie wyłącznie na LLM-ach może prowadzić do niepożądanych skutków

Nadzór nad danymi treningowymi

• LLM-y zależą od danych użytych do trenowania
• Stronniczość i niesprawiedliwość społeczna mogą być przez nie wzmacniane
  • Sprawdzaj odpowiedzi, by wykryć szkodliwe wyniki

Czy LLM-y są stronnicze?

• LLM-y trenowane na mowie nienawiści
  • Same też będą generować mowę nienawiści
• Zbiory danych zawierające stronniczość
  • Tworzą LLM-y ze stronniczością w wynikach
• Może to utrwalać uprzedzenia, stereotypy lub dezinformację
• Twórcy wdrożyli mechanizmy zapobiegające temu
• Firmy muszą być świadome problemu i zapewnić zabezpieczenia

Elastyczność i jej konsekwencje

• Ten sam prompt → różne odpowiedzi
• Przydatne w kreatywnych zadaniach, problematyczne w innych
• Zespół marketingu tworzy opisy produktów z pomocą LLM-ów:
  • Klienci widzą różne opisy
  • Wizerunek marki może na tym ucierpieć

Alert bezpieczeństwa!

• LLM-y są złożone, ale można je oszukać
• Atakujący mogą osadzać szkodliwe prompty na stronach internetowych
  • Mogą zniekształcać wyniki LLM-ów
• Znane jako wstrzykiwanie promptów
• Może prowadzić do szkód wizerunkowych

Wyzwania związane z LLM-ami

• Wiele wyzwań jest charakterystycznych dla konkretnych branż
• Open Worldwide Application Security Project (OWASP)
  • Kataloguje i opisuje wyzwania
• Firmy muszą być świadome zagrożeń
• Niezbędne jest rozumienie specyfiki LLM-ów
• Zapewnij nadzór człowieka
• Inwestuj w szkolenia i bezpieczeństwo

¹ https://owasp.org/

Czas na praktykę!

Duże modele językowe w biznesie