Wyzwania modelowania języka
Koncepcje dużych modeli językowych (LLM)
Vidhi Chugh
AI strategist and ethicist
Kolejność ma znaczenie!
Tylko
ja prowadzę zdrowy tryb życia.
Różna pozycja = różne znaczenie
Prowadzę
tylko
zdrowy tryb życia.
1
Freepik
Modelowanie kontekstu
Modelowanie kontekstu
Modelowanie kontekstu
Modelowanie kontekstu
Modelowanie kontekstu
Zależności długiego zasięgu
Rozpoznawanie i łączenie odległych słów w zdaniu
Wyzwanie dla tradycyjnych modeli językowych
Uczenie jednego zadania
Kosztowne czasowo i zasobowo
Mniej elastyczne niż nowoczesne LLM
Uczenie wielu zadań
Lepsza wydajność na każdym z zadań
Może wpływać na dokładność i efektywność
Mniej danych treningowych dzięki ich współdzieleniu
Podsumowanie
Wyzwania modelowania języka:
Sekwencje słów
Rozumienie kontekstu
Zależności długiego zasięgu
Uczenie jednego zadania:
Specyficzne dla zadania
Mało elastyczne
Tradycyjne modele i wczesne LLM
Uczenie wielu zadań:
Wszechstronne
Wiele zadań
Bardziej zaawansowane LLM
Czas na ćwiczenia!
Koncepcje dużych modeli językowych (LLM)
Preparing Video For Download...