Aplicații responsabile de IA generativă

Concepte de AI generativ

Daniel Tedesco

Data Lead, Google

În ajunul alegerilor

Colecție de titluri de știri false

Concepte de AI generativ

Tipuri de utilizare malițioasă

  • Deepfake-uri
  • Campanii de dezinformare
  • Hacking amplificat de IA

Imagine generată de IA cu papa în jachetă puffer

1 Pablo Xavier
Concepte de AI generativ

Detectare și prevenire

Principii cheie de utilizare

  • Supraveghere umană
  • Prevenirea daunelor
  • Monitorizare continuă

 

Puncte de detectare și prevenire

O diagramă cu punctele de utilizare a IA: acces, prompturi, răspunsuri, aplicație și comunicare și feedback.

Concepte de AI generativ

Acces

IA poate sprijini involuntar activitățile non-criminale ale grupurilor infracționale.

  • Evitați susținerea grupurilor malițioase
  • Cunoaște-ți Clientul (KYC)
    • Verificați identitatea utilizatorului

Un personaj amenințător care face semn să taci.

Concepte de AI generativ

Prompturi și răspunsuri

Moderarea prompturilor

  • Similar cu moderarea site-urilor sau grupurilor de chat
  • Prompturile de tip jailbreak pot eluda regulile dezvoltatorilor

Moderarea răspunsurilor

  • Verificați sau filtrați răspunsurile înainte de a le afișa utilizatorului
Concepte de AI generativ

Aplicații

Actorii malițioși pot folosi răspunsuri benigne în scopuri ilegale sau neetice.

  • Filigranele invizibile pot ajuta la identificarea sursei conținutului
  • Poate necesita intervenția autorităților
Concepte de AI generativ

Comunicare și feedback

  • Ghiduri clare de utilizare
  • Bucle de feedback
    • Studii cu utilizatori și mese rotunde cu părțile interesate
    • Parteneriate cu organizații ale societății civile
    • Oportunități de feedback în produs

Un șofer care își pune centura de siguranță

Concepte de AI generativ

Să exersăm!

Concepte de AI generativ

Preparing Video For Download...