Applications responsables d'IA générative

Concepts en IA générative

Daniel Tedesco

Data Lead, Google

À la veille de l'élection

Collection de manchettes de fausses nouvelles

Image générée par IA du pape en doudoune

¹ Pablo Xavier

Principes clés d'utilisation

Points de détection et de prévention

Organigramme des points dans l'usage de l'IA : accès, invites, réponses, application, puis communication et rétroaction.

L'IA peut, sans le vouloir, aider des groupes criminels dans des activités non criminelles.

Personnage à l'allure menaçante faisant « chut ».

Modérer les invites

Comme la modération d'un site Web ou d'un groupe de clavardage
Des invites de « jailbreaking » peuvent contourner les directives des développeurs

Modérer les réponses

Des acteurs malveillants peuvent détourner des réponses bénignes pour des activités illégales ou contraires à l'éthique.

Directives d'utilisation claires
Boucles de rétroaction
- Études utilisateurs et tables rondes avec les parties prenantes
- Partenariat avec des organismes de la société civile
- Occasions de rétroaction dans le produit

Conducteur de voiture bouclant une ceinture

Concepts en IA générative