Modelldesign och datainsamling

Koncept inom generativ AI

Daniel Tedesco

Data Lead, Google

Lär dig fylla tanken

En bränslemätare som pekar på tomt

En fabriksarbetare som monterar huven på ett fordon

1 GM Fairfax Assembly Plant
Koncept inom generativ AI

Att utveckla en modell

Steg i modellutveckling

  1. Forskning och design
  2. Insamling av träningsdata
  3. Modellträning
  4. Modellutvärdering
Koncept inom generativ AI

Stable Diffusions forskning och utveckling

Exempelutdata från Stable Diffusion

Användargenererad bild från Stable Diffusion Beta

Stable Diffusions forskning och utveckling

  • Syfte: Beslut om bildgenerering
  • Arkitektur: Val av diffusionsmodell
  • Resurser: 256 GPU:er, 150 000 timmar, 600 000 USD
1 Stability AI, Emad Mostaque Twitter post
Koncept inom generativ AI

Datainsamling: inte en vanlig ML-modell

Förberedelse av träningsdata

  • Kräver enorma datamängder
  • Varierade, kontextrika data
  • Kräver förbehandling

En serie kattbilder från ett stort bilddataset.

1 Laion blog
Koncept inom generativ AI

Datainsamling: integritet och säkerhet är avgörande

 

Förberedelse av träningsdata

Personligt identifierbar information (PII)

  • Anonymisera eller aggregera
  • Lagra på säker plats med kontrollerad åtkomst

 

Bild med suddiga ansikten

Koncept inom generativ AI

Nu kör vi en övning!

Koncept inom generativ AI

Preparing Video For Download...