Inteligența artificială generală (IAG)

Concepte de AI generativ

Daniel Tedesco

Data Lead, Google

Recapitulare: IAG

O IA cu inteligență similară celei umane:

  • Sferă de cunoaștere
  • Raționament interdisciplinar
  • Abilități sociale
  • Gândire creativă
  • Alte competențe cognitive (viziune, limbaj)
Concepte de AI generativ

Avantaje majore

  • Productivitate
  • Progres în cercetare
  • Soluții inginerești
  • Companie și înțelepciune

Imagine cu un oraș viitor frumos

Concepte de AI generativ

Dezavantaje grave

  • Perturbări economice negative
  • Utilizare malițioasă
  • Probleme de aliniere a valorilor
  • Catastrofă existențială

Robot cu aspect periculos

Concepte de AI generativ

Dezbaterea privind siguranța

IAG poate fi un instrument pozitiv

Imagine cu centrala nucleară modernă Kalinin, Rusia

IAG poate avea consecințe negative

Imagine cu o bombă nucleară nedetonată într-un muzeu

Concepte de AI generativ

Controlul rezultatelor IAG

Cerințe pentru alinierea IAG la valorile umane:

  • Reguli și așteptări clare
  • Feedback constructiv

$$ $$

  1. Constrângeri stricte
  2. Strategii de aliniere
  3. Intervenție guvernamentală
Concepte de AI generativ

Constrângeri stricte

  1. Izolarea restricționează accesul la lumea exterioară
  2. Întreruptibilitatea adaugă un comutator de oprire

Imagine cu un buton roșu mare și un semn „Oprire de urgență" lângă el

Concepte de AI generativ

Strategii de aliniere

  • Dezvoltare iterativă
  • IA constituțională
  • Implicarea mai multor părți interesate

Vizualizare a dezvoltării iterative, cu fiecare etapă extinzându-se în spirală

1 Dave Gray
Concepte de AI generativ

Intervenție guvernamentală

 

  • Reglementări benefice
    • Reglementări de siguranță
    • Reguli de testare și supraveghere
    • Standarde de transparență
  • Colaborare internațională

Directorii unor companii de IA în întâlnire cu PM britanic Rishi Sunak, 2023

Directorii unor companii de IA în întâlnire cu PM britanic Rishi Sunak

1 Prim-ministrul Regatului Unit
Concepte de AI generativ

Să exersăm!

Concepte de AI generativ

Preparing Video For Download...