Ochrana AI: Odpovědnost

Etika umělé inteligence

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Definice odpovědnosti

• Odpovědnost:
  • Přidělení zodpovědnosti za výsledky AI
• Klíčová při vývoji, nasazení a využití AI
• AI není „kouzelná hůlka" zbavující lidí odpovědnosti

Odpovědnost je zásadní

• Lidé důvěřují AI systémům více, když existuje odpovědnost
• Odpovědnost zajišťuje etické využití a snižuje potenciální rizika
• Odpovědnost nezprošťuje lidi jejich povinností

             

Paradox odpovědnosti

• Větší odpovědnost AI může zvýšit důvěru
• Nadměrná důvěra v AI však může vést k chybným rozhodnutím
• Příklad:
  • Studie Georgia Tech, kde účastníci následovali chybné pokyny robota

Příběh Tesly

• Nepochopení možností autopilota ze strany spotřebitelů
• Kritika nedostatečných bezpečnostních opatření Tesly
• Odpovědnost nesou Tesla i spotřebitelé

Dosahování odpovědnosti

• Vývojáři AI:
  • Odpovědnost vyžaduje transparentnost a řešení problému „černé skříňky"
  • Klíčové je přidělení odpovědnosti

• Uživatelé AI:
  • „Důvěřuj, ale prověřuj"
• Vývojáři i uživatelé se podílejí na etické AI
• Výzvy jsou příležitostí k inovaci

¹ Icons made by Eucalyp & Sumitsaengtong from www.flaticon.com

Žádné univerzální řešení

• Odpovědnost v AI je nepřetržitý proces
• S každým pokrokem AI se diskuse o odpovědnosti vyvíjí
• Neexistuje univerzální přístup; liší se napříč odvětvími

¹ Icon made by Freepik from www.flaticon.com

Pojďme procvičovat!

Etika umělé inteligence