Artificiell allmän intelligens (AGI)

Koncept inom generativ AI

Daniel Tedesco

Data Lead, Google

AGI – en återblick

En AI som uppvisar mänsklig intelligens:

  • Kunskapsbredd
  • Resonemang över domäner
  • Social förmåga
  • Kreativt tänkande
  • Andra kognitiva kompetenser (syn, språk)
Koncept inom generativ AI

Stora fördelar

  • Produktivitet
  • Forskningsframsteg
  • Tekniska lösningar
  • Sällskap och visdom

Bild av en vacker framtidsstad

Koncept inom generativ AI

Allvarliga nackdelar

  • Negativa ekonomiska störningar
  • Skadlig användning
  • Problem med värdeanpassning
  • Existentiell katastrof

Hotfullt utseende robot

Koncept inom generativ AI

Säkerhetsdebatten

AGI kan vara en tillgång

Bild av ett modernt kärnkraftverk i Kalinin, Ryssland

AGI kan få negativa konsekvenser

Bild av en odetonerad kärnbomb på ett museum

Koncept inom generativ AI

Att styra AGI-utfall

Krav för att anpassa AGI till mänskliga värderingar:

  • Tydliga regler och förväntningar
  • Konstruktiv återkoppling

$$ $$

  1. Hårda begränsningar
  2. Anpassningsstrategier
  3. Statlig reglering
Koncept inom generativ AI

Hårda begränsningar

  1. Inneslutning begränsar åtkomst till omvärlden
  2. Avbrottsbarhet lägger till en stopp- eller nödavstängning

Bild av en stor röd knapp med skylten "Emergency power off" bredvid

Koncept inom generativ AI

Anpassningsstrategier

  • Iterativ utveckling
  • Konstitutionell AI
  • Flerpartsengagemang

Illustration av iterativ utveckling där varje steg rör sig utåt i en spiral

1 Dave Gray
Koncept inom generativ AI

Statlig reglering

 

  • Fördelaktiga regleringar
    • Säkerhetsregler
    • Regler för testning och tillsyn
    • Transparensstandarder
  • Internationellt samarbete

VD:ar från olika AI-företag möter Storbritanniens PM Rishi Sunak 2023-

VD:ar från olika AI-företag möter Storbritanniens PM Rishi Sunak

1 Storbritanniens statsminister
Koncept inom generativ AI

Nu kör vi en övning!

Koncept inom generativ AI

Preparing Video For Download...