Intelligence artificielle générale (AGI)

Concepts d'IA générative

Daniel Tedesco

Data Lead, Google

Réexamen de l'AGI

Une IA qui fait preuve d'intelligence comme le ferait un être humain :

  • Étendue des connaissances
  • Raisonner à travers les domaines
  • Compétences sociales
  • Pensée créative
  • Autres compétences cognitives (vue, langage)
Concepts d'IA générative

Des avantages considérables

  • Productivité
  • Progrès de la recherche
  • Solutions d'ingénierie
  • Compagnonnage et sagesse

Image d'une belle ville du futur

Concepts d'IA générative

Contre sévères

  • Perturbations économiques négatives
  • Utilisation malveillante
  • Problèmes d'alignement des valeurs
  • Catastrophe existentielle

Robot d'apparence dangereuse

Concepts d'IA générative

Le débat sur la sécurité

L'AGI peut donner des moyens d'action

Image d'une centrale nucléaire moderne à Kalinin, Russie

L'AGI peut avoir des conséquences négatives

Image d'une bombe nucléaire non détonée dans un musée

Concepts d'IA générative

Contrôler les résultats de l'AGI

Exigences relatives à l'alignement de l'AGI sur les valeurs humaines :

  • Des règles et des attentes claires
  • Retour d'information constructif

$$ $$

  1. Contraintes fortes
  2. Stratégies d'alignement
  3. Intervention du gouvernement
Concepts d'IA générative

Contraintes fortes

  1. Le boxing restreint l'accès au monde extérieur
  2. L'interruptibilité ajoute un interrupteur d'arrêt ou de coupure

Image d'un gros bouton rouge avec un panneau « Emergency power off » à côté

Concepts d'IA générative

Stratégies d'alignement

  • Développement itératif
  • IA constitutionnelle
  • Engagement des parties prenantes

Un visuel sur le développement itératif avec chaque étape progressant en spirale

1 Dave Gray
Concepts d'IA générative

Intervention du gouvernement

 

  • Règlements bénéfiques
    • Règles de sécurité
    • Règles relatives aux essais et à la surveillance
    • Normes de transparence
  • Collaboration internationale

Les PDG de diverses entreprises d'IA rencontrent le Premier ministre britannique Rishi Sunak en 2023.

Rencontre entre les PDG de diverses entreprises du secteur de l'IA et le Premier ministre britannique, Rishi Sunak

1 Premier ministre britannique
Concepts d'IA générative

Passons à la pratique !

Concepts d'IA générative

Preparing Video For Download...