Applications responsables de l'IA générative

Concepts d'IA générative

Daniel Tedesco

Data Lead, Google

À la veille des élections

Collection de titres de fake news

Image générée par l'IA d'un pape en doudoune

¹ Pablo Xavier

Principes clés d'utilisation

Points de détection et de prévention

Organigramme des étapes de l'utilisation de l'IA : accès, prompts, réponses, application, communication et retour d'information.

L'IA peut involontairement favoriser les activités non criminelles des groupes criminels.

Un personnage à l'allure inquiétante fait taire les spectateurs

Modérer les prompts

Similaire à la modération d'un site Web ou d'un groupe de discussion
Les prompts de type jailbreaking peuvent encore contourner les directives établies par les développeurs

Modérer les réponses

Les acteurs malveillants peuvent appliquer des réponses bénignes à des activités illégales ou contraires à l'éthique.

Directives d'utilisation claires
Boucles de rétroaction
- Études d'utilisateurs et tables rondes de parties prenantes
- Partenariat avec des organisations de la société civile
- Possibilités de retour d'information sur le produit

Un automobiliste bouclant sa ceinture de sécurité

Concepts d'IA générative