Identificarea riscurilor AI

Practici de IA Responsabilă

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Părțile interesate afectate de AI

 

  • Persoane
  • Grupuri
  • Națiuni
  • Societate

O imagine cu mâini în cerc în culorile curcubeului

1 Midjourney
Practici de IA Responsabilă

Design, dezvoltare și implementare

 

Ciclul de viață al unui sistem AI cuprinde trei faze:

  • Design
  • Dezvoltare
  • Implementare

 

O diagramă cu trei elemente: Design, Dezvoltare, Implementare

Practici de IA Responsabilă

Design

 

  • Definirea obiectivelor
  • Valoarea de business
  • Planificarea arhitecturii datelor
  • Evaluarea impactului bugetar
  • Verificarea suportului din partea părților interesate

  O diagramă cu trei elemente: Design, Dezvoltare, Implementare, cu Design în vârf

Practici de IA Responsabilă

Dezvoltare

 

  • Construire
  • Antrenare
  • Testare

 

  • Riscuri precum supraadaptarea și subadaptarea

  O diagramă cu trei elemente: Design, Dezvoltare, Implementare, cu Dezvoltare în vârf

Practici de IA Responsabilă

Implementare

 

  • Integrare în mediul de producție
  • Procesarea datelor reale
  • Monitorizare
  • Rafinare
  • Adaptare

  O diagramă cu trei elemente: Design, Dezvoltare și Implementare, cu Implementare în vârf

Practici de IA Responsabilă

Spectrul riscurilor AI

  • Riscuri de securitate și operaționale:

    • Halucinații
    • Coruperea și otrăvirea datelor
    • Scurgeri și breșe de date

  • Riscuri de confidențialitate

  • Riscuri de afaceri:

    1. Reputaționale
    2. Financiare

 

Testarea riguroasă, standardele etice și conformitatea sunt esențiale.

Practici de IA Responsabilă

Să exersăm!

Practici de IA Responsabilă

Preparing Video For Download...