Úvod do velkých jazykových modelů (LLM)

Úvod do LLMs v Pythonu

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Předchozí znalosti

  • Orientace v Hugging Face Hubu
  • Modely hlubokého učení

Kreslený mozek čtoucí knihu

Úvod do LLMs v Pythonu

Úvod do LLM

 

Ikona žárovky a mozku symbolizující porozumění

Úvod do LLMs v Pythonu

Úvod do LLM

 

Ilustrace notebooku symbolizující používání

Úvod do LLMs v Pythonu

Abstraktní ilustrace velkého jazykového modelu

Úvod do LLMs v Pythonu

Abstraktní ilustrace velkého jazykového modelu s bublinou sumarizace

Úvod do LLMs v Pythonu

Abstraktní ilustrace velkého jazykového modelu s bublinami sumarizace a generování

Úvod do LLMs v Pythonu

Abstraktní ilustrace velkého jazykového modelu s bublinami sumarizace, generování a překladu

Úvod do LLMs v Pythonu

Abstraktní ilustrace velkého jazykového modelu s bublinami sumarizace, generování, překladu a Q&A

Loga LLM

Úvod do LLMs v Pythonu

LLM

 

  • Založeny na architekturách hlubokého učení

 

  • Nejčastěji transformery

 

  • Rozsáhlé neuronové sítě s mnoha parametry a textovými daty

Logo Hugging Face

Úvod do LLMs v Pythonu

Použití modelů Hugging Face

from transformers import pipeline


summarizer = pipeline(task="summarization", model="facebook/bart-large-cnn")


text = "Walking amid Gion's Machiya wooden houses is a mesmerizing experience. The 
beautifully preserved structures exuded an old-world charm that transports visitors
back in time, making them feel like they had stepped into a living museum. The glow of 
lanterns lining the narrow streets add to the enchanting ambiance, making each stroll a
memorable journey through Japan's rich cultural history."

summary = summarizer(text, max_length=50)
  • clean_up_tokenization_spaces=True: odstraní nadbytečné mezery
Úvod do LLMs v Pythonu

Výstupy modelu

print(summary)

[{'summary_text': "Gion's Machiya
  wooden houses exuded an old-world 
  charm that transports visitors back 
  in time. The glow of lanterns lining 
  the narrow streets add to the 
  enchanting ambiance, making each 
  stroll a memorable journey through 
  Japan's"}]

print(summary[0]["summary_text"])

Gion's Machiya wooden houses exuded an 
old-world charm that transports 
visitors back in time. The glow of 
lanterns lining the narrow streets add 
to the enchanting ambiance, making each 
stroll a memorable journey through 
Japan's
Úvod do LLMs v Pythonu

Co nás čeká

 

  • Stavět na stávajících znalostech LLM
  • Plnit nové úlohy
  • Pochopit, jak jsou LLM sestaveny
  • Doladit LLM (fine-tuning)
  • Vyhodnotit výkon LLM

Vzdělávací cesta

Úvod do LLMs v Pythonu

Pojďme si to procvičit!

Úvod do LLMs v Pythonu

Preparing Video For Download...