Intelligence artificielle générale (AGI)

Concepts en IA générative

Daniel Tedesco

Data Lead, Google

Revoir l'AGI

Une IA qui manifeste une intelligence de type humain :

  • Étendue des connaissances
  • Raisonnement interdomaines
  • Compétences sociales
  • Pensée créative
  • Autres capacités cognitives (vision, langage)
Concepts en IA générative

Immenses avantages

  • Productivité
  • Progrès de la recherche
  • Solutions d'ingénierie
  • Compagnie et sagesse

Image d'une belle ville du futur

Concepts en IA générative

Inconvénients majeurs

  • Perturbations économiques négatives
  • Usage malveillant
  • Problèmes d'alignement des valeurs
  • Catastrophe existentielle

Robot à l'allure dangereuse

Concepts en IA générative

Le débat sur la sécurité

L'AGI peut autonomiser

Image d'une centrale nucléaire moderne à Kalinine, en Russie

L'AGI peut avoir des effets négatifs

Image d'une bombe nucléaire non explosée dans un musée

Concepts en IA générative

Maîtriser les résultats de l'AGI

Exigences pour aligner l'AGI sur les valeurs humaines :

  • Règles et attentes claires
  • Rétroaction constructive

$$ $$

  1. Contraintes strictes
  2. Stratégies d'alignement
  3. Intervention gouvernementale
Concepts en IA générative

Contraintes strictes

  1. Boxing limite l'accès au monde extérieur
  2. Interruptibilité ajoute un bouton d'arrêt ou de mise hors tension

Image d'un gros bouton rouge avec l'inscription « Emergency power off » à côté

Concepts en IA générative

Stratégies d'alignement

  • Développement itératif
  • Constitutional AI
  • Participation de multiples parties prenantes

Visuel du développement itératif, chaque étape avançant en spirale

1 Dave Gray
Concepts en IA générative

Intervention gouvernementale

 

  • Règlementations bénéfiques
    • Règlementations de sécurité
    • Règles d'essai et de surveillance
    • Normes de transparence
  • Collaboration internationale

Des PDG de diverses entreprises d'IA rencontrant le premier ministre britannique Rishi Sunak en 2023 —

PDG de diverses entreprises d'IA rencontrant le premier ministre britannique Rishi Sunak

1 Premier ministre du Royaume-Uni
Concepts en IA générative

Passons à la pratique !

Concepts en IA générative

Preparing Video For Download...