Limitações do ChatGPT

Entendendo o ChatGPT

James Chapman

Curriculum Manager, DataCamp

ChatGPT por trás dos bastidores

Desmistificando o LLM

 

Desmistificando o LLM

 

Desmistificando o LLM

Desmistificando o LLM

Desmistificando o LLM

Desmistificando o LLM

Desmistificando o LLM

Limitação 1 – Limite de conhecimento

 

 

• Treinado com dados até uma certa data:
  • GPT 3.5: janeiro de 2022
  • GPT 4: abril de 2023
• Não sabe de eventos posteriores a essa data.

 

Limitação 2 – Viés nos dados de treinamento

 

• ChatGPT treinado com um enorme conjunto de dados de textos, incluindo:

  • Livros
  • Artigos
  • Sites

• O modelo pode aprender os vieses com os dados de treinamento

• Pode enviesar as respostas

Limitação 3 – Acompanhamento do contexto

 

Limitação 3 – Acompanhamento do contexto

 

Limitação 3 – Acompanhamento do contexto

 

• Tem dificuldade em acompanhar o contexto quando o foco muda
• Pode levar a resultados imprecisos ou irrelevantes.
• Dica: mantenha as conversas focadas em um único assunto

 

Limitação 4 – Alucinações

 

• O modelo apresenta informações imprecisas com confiança
• Geralmente ocorre quando se tenta ir além do conhecimento ou da capacidade do modelo

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Limitação 5 – Questões jurídicas e éticas

 

• Exemplo: criação de uma música no estilo de um artista que já existe
  • Quem é o dono da música nova?

 

Limitação 5 – Questões jurídicas e éticas

 

• Exemplo: criação de uma música no estilo de um artista que já existe
  • Quem é o dono da música nova?

 

Limitação 5 – Questões jurídicas e éticas

 

• Exemplo: criação de uma música no estilo de um artista que já existe
  • Quem é o dono da música nova?

 

• É fácil cair numa área de incerteza jurídica
• Titularidade e privacidade → Capítulo 2

 

Vamos praticar!

Entendendo o ChatGPT