Etica datelor și etica IA

Introducere în etica datelor

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Ce este IA?

Ilustrație a IA cu date de intrare și decizie de model.

  • IA combină algoritmi și seturi de date solide pentru a rezolva probleme
  • IA performantă utilizează seturi mari de date
  • Potențial imens, sabie cu două tăișuri, considerații etice
Introducere în etica datelor

Datele sunt combustibilul IA

Ilustrație a importanței datelor pentru IA, cu o analogie culinară.

  • Modelele IA necesită cantități mari de date; cea mai mare parte a efortului IA vizează datele
  • Date slabe duc la rezultate slabe ale IA
  • Etica IA este mai cuprinzătoare decât etica datelor; sunt importante asemănările și diferențele
1 Sursă foto: Webinar Andrew Ng, MLOps: From Model-centric to Data-centric AI
Introducere în etica datelor

Binele și extraordinarul

Colaj cu un difuzor asistent vocal, un screenshot ChatGPT și pagina de start Netflix.

  • Asistenți vocali, IA conversațională
  • Recomandări de filme

Radiografie mamară cu două tumori în stadii diferite de creștere

  • IA în beneficiul societății
  • Diagnosticarea timpurie a cancerului
  • Agricultură de precizie – consum redus de apă și pesticide
Introducere în etica datelor

Răul și urâtul

Colaj de știri despre discriminarea algoritmilor IA

  • Discriminare în angajare, accesul la îngrijiri medicale și procese echitabile
  • Cauze multiple: seturi de date biasate, modele IA complexe și opace, lipsa explicațiilor
  • Etica IA depășește etica datelor
Introducere în etica datelor

Dileme etice ale IA

Etica IA depășește etica datelor

  • Consecințe ale deciziilor IA:
    • Accesul la credit/împrumuturi
    • Angajare
  • Discriminare prin IA
  • IA/Roboții care preiau locurile de muncă
  • Vor salva roboții/dronele mai multe vieți în război?
  • Ce înseamnă să fii om?
  • Putem codifica moralitatea în IA?

Fotografie cu un indicator rutier cu săgeți în direcții opuse pe fundal muntos.

1 Sursă foto: unsplash.com
Introducere în etica datelor

Ce ar trebui să facă o IA?

  • Mașină autonomă cu defecțiune bruscă a frânelor
  • Continuă sau virează
  • Dacă continuă, omoară o femeie, un bărbat și o femeie în vârstă
  • Dacă virează, omoară o tânără și doi copii
  • Cine este responsabil?

Ilustrație a unei dileme etice privind o mașină autonomă

1 https://moralmachine.mit.edu/
Introducere în etica datelor

Ghiduri de etică IA pe scurt

Numeroase organizații elaborează ghiduri de etică IA

  • Autonomia umană și supravegherea
  • Robustețe tehnică și siguranță
  • Confidențialitate și guvernanța datelor
  • Transparență
  • Diversitate, nediscriminare și echitate
  • Bunăstare de mediu și socială
  • Responsabilitate

Imaginea inventarului de ghiduri de etică IA al Algorithm Watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introducere în etica datelor

Suprapunerea cu datele

  • Confidențialitate, securitate, protecția datelor
  • Bias și echitate
  • Transparență
  • Responsabilitate

Ilustrație a suprapunerii dintre etica datelor și etica IA

Introducere în etica datelor

Să exersăm!

Introducere în etica datelor

Preparing Video For Download...