Introdução a modelos de linguagem grandes (LLMs)

Introdução a LLMs em Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Conhecimentos prévios

  • Navegar no Hugging Face Hub
  • Modelos de deep learning

Desenho de um cérebro lendo um livro

Introdução a LLMs em Python

Introdução a LLMs

 

Ícone de lâmpada e cérebro representando entendimento

Introdução a LLMs em Python

Introdução a LLMs

 

Ilustração de laptop representando uso

Introdução a LLMs em Python

Ilustração abstrata de um modelo de linguagem grande

Introdução a LLMs em Python

Ilustração abstrata de um modelo de linguagem grande com um balão de resumir

Introdução a LLMs em Python

Ilustração abstrata de um modelo de linguagem grande com balões de resumir e gerar

Introdução a LLMs em Python

Ilustração abstrata de um modelo de linguagem grande com balões de resumir, gerar e traduzir

Introdução a LLMs em Python

Ilustração abstrata de um modelo de linguagem grande com balões de resumir, gerar, traduzir e Perguntas e Respostas

Logotipos de LLMs

Introdução a LLMs em Python

LLMs

 

  • Baseados em arquiteturas de deep learning

 

  • Geralmente transformers

 

  • Redes neurais enormes com muitos parâmetros e dados de texto

Logo da Hugging Face

Introdução a LLMs em Python

Usando modelos da Hugging Face

from transformers import pipeline


summarizer = pipeline(task="summarization", model="facebook/bart-large-cnn")


text = "Walking amid Gion's Machiya wooden houses is a mesmerizing experience. The 
beautifully preserved structures exuded an old-world charm that transports visitors
back in time, making them feel like they had stepped into a living museum. The glow of 
lanterns lining the narrow streets add to the enchanting ambiance, making each stroll a
memorable journey through Japan's rich cultural history."

summary = summarizer(text, max_length=50)
  • clean_up_tokenization_spaces=True: remove espaços em branco desnecessários
Introdução a LLMs em Python

Saídas do modelo

print(summary)

[{'summary_text': "Gion's Machiya
  wooden houses exuded an old-world 
  charm that transports visitors back 
  in time. The glow of lanterns lining 
  the narrow streets add to the 
  enchanting ambiance, making each 
  stroll a memorable journey through 
  Japan's"}]

print(summary[0]["summary_text"])

Gion's Machiya wooden houses exuded an 
old-world charm that transports 
visitors back in time. The glow of 
lanterns lining the narrow streets add 
to the enchanting ambiance, making each 
stroll a memorable journey through 
Japan's
Introdução a LLMs em Python

A seguir

 

  • Expandir o que você já sabe sobre LLMs
  • Fazer novas tarefas
  • Ver como LLMs são construídos
  • Fazer fine-tuning em LLMs
  • Avaliar o desempenho de LLMs

Trilha de aprendizagem

Introdução a LLMs em Python

Vamos praticar!

Introdução a LLMs em Python

Preparing Video For Download...