L’IA responsable : préjugés sociaux, droits d'auteur, propriété

L'IA générative au service des entreprises

Carl Rosseel

Head of Business Intelligence Curriculum at DataCamp

Les préjugés sociaux dans l'IA

Qu'est-ce qu'un préjugé social ?

  • Injustice systémique envers certains groupes
  • Recrutement, milieu médical ou autre

Qu'est-ce qui est équitable ?

  • La définition d'« équitable » est complexe
  • Impact des angles morts de la société

Comment aller de l'avant ?

  • Mettre l'accent sur des valeurs humaines largement partagées

                          Brain_bias_vs_facts_on_a_scale.png

L'IA générative au service des entreprises

Pourquoi y a-t-il un risque de partialité dans l'IA ?

  • Manque de diversité ou mauvaise représentation dans les données d’entraînement
  • Poursuite d'objectifs étroits dans le modèle
  • Application erronée ou malveillante de l'IA par des utilisateurs

brain balancing vs ai on a scale.jpg

L'IA générative au service des entreprises

Techniques de détection et d'atténuation

Détection
  • Algorithmes de mesure de l'équité
  • Algorithmes pour calculer des métriques d'équité
  • Audits humains
  • Évaluation et amélioration continues

Looking glass.jpg

Atténuation
  • Rendre (quelque chose de mauvais) moins grave, sérieux ou douloureux.
  • Diversification des données d’entraînement
  • Ajustement des modèles

                         

lamp.jpg

1 Oxford Languages
L'IA générative au service des entreprises

Propriété intellectuelle et contenu de l'IA

Contenu généré par l'IA

  • Peinture, musique ou recherche académique

Qui est propriétaire du contenu ?

  • La personne qui a fourni le prompt
  • L'entreprise qui a développé l'IA
  • L'IA elle-même ?

Paysage juridique

  • En évolution rapide

                         

Trademark.jpg

L'IA générative au service des entreprises

L'IA générative et le paysage juridique

  • Un patchwork de nouvelles lois
  • Il est essentiel de rester informé
  • Considérations relatives à la vie privée
    • Conditions d'utilisation
    • Implications du partage
    • Traitement des données

iStock-1471527204.jpg

L'IA générative au service des entreprises

L'IA générative dans tous les secteurs

  • Les domaines créatifs résistent en raison de préoccupations liées à l'emploi
  • La recherche médicale l'adopte pour réaliser des percées
  • La chaîne d'approvisionnement optimise et automatise les processus

iStock-1481351201.jpg

L'IA générative au service des entreprises

Considérations éthiques

Utilisation malveillante

  • Deepfakes
  • Campagnes de désinformation
  • Piratage amélioré

Stratégies d'atténuation

  • Vérification de l'humain dans la boucle
  • Prévention et suivi des dommages
  • Vérification de l'identité de l'utilisateur
  • ...

iStock-1456142992.jpg

L'IA générative au service des entreprises

L'IA générative est en constante évolution

Des lignes directrices claires et des possibilités de rétroaction

  • Impliquer les principales parties prenantes
  • Organisation de tables rondes
  • Partenariat avec la société civile
  • Boucle de rétroaction sur le produit

iStock-1416315615.jpg

Un nouveau domaine complexe

  • Riche en opportunités
  • Considérations et défis éthiques
  • Atténuer les préjugés sociaux
  • Repères sur les questions complexes de droit d'auteur

iStock-1448152453.jpg

L'IA générative au service des entreprises

Passons à la pratique !

L'IA générative au service des entreprises

Preparing Video For Download...