¿Qué es Llama?

Trabajar con Llama 3

Imtihan Ahmed

Machine Learning Engineer

Conoce a la persona instructora

 

  • Imtihan Ahmed
  • Ingeniero de Machine Learning
  • Seis años de experiencia
  • IA a escala

  Foto del perfil del instructor

Trabajar con Llama 3

¿Qué es Llama 3?

 

  • Resumen

Captura de pantalla 2025-02-19 a las 11.01.25.png

Trabajar con Llama 3

¿Qué es Llama 3?

 

  • Resumen

 

  • Análisis de datos

Captura de pantalla 2025-02-19 a las 11.01.16.png

Trabajar con Llama 3

¿Qué es Llama 3?

 

  • Resumen

 

  • Análisis de datos

 

  • Asistente de código

Captura de pantalla 2025-02-19 a las 11.01.07.png

Trabajar con Llama 3

¿Qué es Llama 3?

Captura de pantalla 2025-02-19 a las 11.32.24.png

Llama 3:

  • Desarrollado por Meta
Trabajar con Llama 3

¿Qué es Llama 3?

Captura de pantalla 2025-02-19 a las 11.32.18.png

Llama 3:

  • Desarrollado por Meta
  • Generación de texto
Trabajar con Llama 3

¿Qué es Llama 3?

Captura de pantalla 2025-02-19 a las 11.32.12.png

  • Desarrollado por Meta
  • Generación de texto
  • Entrenado con un dataset masivo
    • Equivale a 2000 Wikipedias
  • Código abierto
Trabajar con Llama 3

Por qué ejecutar Llama 3 en local

  • Ejemplo: automatización industrial
    • Llama predice necesidades de mantenimiento

3.jpg

1 https://ai.meta.com/blog/aitomatic-built-with-llama/
Trabajar con Llama 3

Por qué ejecutar Llama 3 en local

 

  • Privacidad y seguridad

Captura de pantalla 2025-02-19 a las 11.48.10.png

Trabajar con Llama 3

Por qué ejecutar Llama 3 en local

 

  • Privacidad y seguridad

 

  • Ahorro de costes

Captura de pantalla 2025-02-19 a las 11.48.03.png

Trabajar con Llama 3

Por qué ejecutar Llama 3 en local

 

  • Privacidad y seguridad

 

  • Ahorro de costes

 

  • Personalización

Captura de pantalla 2025-02-19 a las 11.47.54.png

Trabajar con Llama 3

Usar Llama en local

  • Disponible en local si tienes Python instalado

Captura de pantalla 2025-02-19 a las 11.54.07.png

  • Se usa con la librería llama-cpp-python
  • Ejecuta pip install
pip install llama-cpp-python
Trabajar con Llama 3

Hacer preguntas a Llama

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")

output = llm("What are some ways to improve customer retention?")
  • Importa la clase Llama
  • Inicializa el LLM
    • Envía prompts y recibe respuestas
    • Modelo en formato GGUF
  • Pasa una pregunta al LLM
Trabajar con Llama 3

Hacer preguntas a Llama

 

  • El modelo recibe el prompt
  • Procesa el prompt
  • Devuelve una respuesta

ingeniería de prompts.jpg

Trabajar con Llama 3

Desglosar la salida

  • La respuesta viene en un diccionario
output

{'id': 'cmpl-af88304f-97b0-49f5-ba20-db87f86c4068',
 'object': 'text_completion',
 'created': 1715222298,
 'model': './Llama3-gguf-unsloth.Q4_K_M.gguf',
 'choices': [{'text': 'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings...'},
 ...]
}
Trabajar con Llama 3

Desglosar la salida

  • Accede a "text" del elemento 0 de "choices"
output["choices"][0]["text"]

'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings. 
 Here are some effective ways to boost customer retention:
 1. Personalize the Customer Experience
 Tailor your interactions with customers based on their preferences, behaviors, and 
 purchase history. Use data and analytics to create personalized offers, 
 recommendations, and communications.
 2. Foster Strong Relationships
 Build strong, human connections with your customers. Train your...'
Trabajar con Llama 3

¡Vamos a practicar!

Trabajar con Llama 3

Preparing Video For Download...