Modellträning

Koncept inom generativ AI

Daniel Tedesco

Data Lead, Google

Välj ditt träningssätt

Bild på ett flygplan och en bil.

  1. Hårdvara
  2. Tid
    • Datamängdens storlek
    • Modellkomplexitet
    • Träningsomgångar
  3. Kostnad
Koncept inom generativ AI

Avancera till avancerade tekniker

  • En generativ grundmodell är ett första steg
  • Avancerade tekniker specialiserar dem för specifika sammanhang

Viktiga avancerade tekniker:

  1. Transferinlärning och finjustering
  2. RLHF
  3. Anpassade inbäddningar

En bild på studenter vid sin examen

Koncept inom generativ AI

Från katter till lejon

  • Transferinlärning överför kunskap från en uppgift till en annan
  • Finjustering är en typ av transferinlärning för liten datamängd

En modell som lär sig från lejonbilder och säger "Fortfarande lurvig, fyra tassar... Jag fattar!", och sedan producerar en lejonbild

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
Koncept inom generativ AI

Vart tar din feedback vägen?

Bild på Google Bards chattgränssnitt med "tummen upp" och "tummen ned"-alternativen markerade

1 Google Bard, 2023
Koncept inom generativ AI

Tummen upp för bättre svar

Flera textsvar betygsatta med tummen upp eller ned skickas till en robot som säger, "Nu vet jag vilka svar människorna gillar"

1 Google Bard, 2023
Koncept inom generativ AI

Inbäddningar som fingeravtryck

  • Liknar igenkänning av ett fingeravtryck
  • Unika representationer av dataentiteter
  • Fångar innebörd, kontext och relationer i kompakt form

En serie fingeravtryck

1 Wikimedia commons
Koncept inom generativ AI

Bädda in Dan

Olika porträttbilder av Daniel Tedesco som ges till en generativ AI

1 Daniel Tedesco, 2023
Koncept inom generativ AI

Dan inbäddad

En modell som producerar en mängd stiliserade profilbilder av Daniel Tedesco

1 Daniel Tedesco portraits from vana.com
Koncept inom generativ AI

Nu kör vi en övning!

Koncept inom generativ AI

Preparing Video For Download...