Obecná umělá inteligence (AGI)

Generative AI Concepts

Daniel Tedesco

Data Lead, Google

Revisiting AGI

AI vykazující inteligenci podobnou člověku:

  • Rozsah znalostí
  • Uvažování napříč obory
  • Sociální dovednosti
  • Kreativní myšlení
  • Další kognitivní schopnosti (zrak, jazyk)
Generative AI Concepts

Obrovské výhody

  • Produktivita
  • Pokrok ve výzkumu
  • Inženýrská řešení
  • Společnost a moudrost

Obraz krásného města budoucnosti

Generative AI Concepts

Závažná rizika

  • Negativní ekonomické dopady
  • Zneužití
  • Problémy se sladěním hodnot
  • Existenciální katastrofa

Nebezpečně vypadající robot

Generative AI Concepts

Debata o bezpečnosti

AGI může posilovat

Moderní jaderná elektrárna v Kalininu v Rusku

AGI může mít negativní důsledky

Nevybuchlá jaderná bomba v muzeu

Generative AI Concepts

Řízení výstupů AGI

Požadavky pro sladění AGI a lidských hodnot:

  • Jasná pravidla a očekávání
  • Konstruktivní zpětná vazba

$$ $$

  1. Tvrdá omezení
  2. Strategie sladění
  3. Vládní intervence
Generative AI Concepts

Tvrdá omezení

  1. Izolace omezuje přístup k vnějšímu světu
  2. Přerušitelnost přidává stop tlačítko nebo vypínač

Velké červené tlačítko s nápisem „Emergency power off" vedle něj

Generative AI Concepts

Strategie sladění

  • Iterativní vývoj
  • Ústavní AI
  • Zapojení více zainteresovaných stran

Vizualizace iterativního vývoje, kde každý krok směřuje ven ve spirále

1 Dave Gray
Generative AI Concepts

Vládní intervence

 

  • Prospěšná regulace
    • Bezpečnostní předpisy
    • Pravidla pro testování a dohled
    • Standardy transparentnosti
  • Mezinárodní spolupráce

Generální ředitelé různých společností v oblasti AI na setkání s britským premiérem Rishim Sunakem v roce 2023-

Generální ředitelé různých AI společností na setkání s britským premiérem Rishim Sunakem

1 Britský premiér
Generative AI Concepts

Pojďme si procvičit!

Generative AI Concepts

Preparing Video For Download...