Modeltraining

Generatieve AI-concepten

Daniel Tedesco

Data Lead, Google

Kies je trein-middel

Afbeelding van een vliegtuig en een auto.

  1. Hardware
  2. Tijd
    • Datasetgrootte
    • Modelcomplexiteit
    • Aantal trainrondes
  3. Kosten
Generatieve AI-concepten

Doorstromen naar geavanceerde technieken

  • Een foundation generative AI-model is de eerste stap
  • Geavanceerde technieken specialiseren het voor specifieke contexten

Belangrijke geavanceerde technieken:

  1. Transfer learning en fine-tuning
  2. RLHF
  3. Aangepaste embeddings

Een foto van afstuderende studenten

Generatieve AI-concepten

Van katten naar leeuwen

  • Transfer learning: kennis overzetten van de ene naar de andere taak
  • Fine-tuning: vorm van transfer learning met een kleine dataset

Een model leert van kattenfoto's, zegt "Nog steeds harig, vier poten... ik snap het!", en maakt dan een leeuwenafbeelding

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
Generatieve AI-concepten

Waar gaat je feedback naartoe?

Afbeelding van de Google Bard-chatinterface met de opties duim omhoog en duim omlaag gemarkeerd

1 Google Bard, 2023
Generatieve AI-concepten

Duim omhoog voor betere antwoorden

Verschillende tekstantwoorden beoordeeld met duim omhoog of omlaag worden naar een robot gestuurd die zegt: "Oké, nu weet ik welke antwoorden mensen fijn vinden"

1 Google Bard, 2023
Generatieve AI-concepten

Embeddings als vingerafdrukken

  • Net als een vingerafdruk herkennen
  • Unieke representaties van data-entiteiten
  • Leggen betekenis, context en relaties compact vast

Een reeks vingerafdrukken

1 Wikimedia commons
Generatieve AI-concepten

Dan embedden

Diverse portretfoto's van Daniel Tedesco die aan een generatieve AI worden gegeven

1 Daniel Tedesco, 2023
Generatieve AI-concepten

Embedded Dan

Een model dat allerlei gestileerde headshots van Daniel Tedesco maakt

1 Daniel Tedesco portraits from vana.com
Generatieve AI-concepten

Laten we oefenen!

Generatieve AI-concepten

Preparing Video For Download...