Защита ИИ: подотчётность

Этика ИИ

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Что такое подотчётность

• Подотчётность:
  • Распределение ответственности за результаты ИИ
• Важна на всех этапах: разработка, внедрение, использование
• ИИ — не «волшебная палочка», снимающая ответственность

Почему подотчётность важна

• Подотчётность повышает доверие к системам ИИ
• Она обеспечивает этичное использование и снижает возможный вред
• Подотчётность означает, что люди не снимают с себя ответственность

             

Парадокс подотчётности

• Рост подотчётности ИИ повышает доверие к нему
• Однако чрезмерное доверие к ИИ может привести к ошибочным решениям
• Пример:
  • Исследование Georgia Tech, где участники следовали ошибочным указаниям робота

История Tesla

• Потребители неверно понимали возможности автопилота
• Tesla критиковали за недостаточные меры безопасности
• Ответственность лежит как на Tesla, так и на потребителях

Достижение подотчётности

• Производители ИИ:
  • Подотчётность требует прозрачности и решения проблемы «чёрного ящика»
  • Ключевым является распределение ответственности

• Потребители ИИ:
  • «Доверяй, но проверяй»
• Производители и потребители совместно создают этичный ИИ
• Вызовы — это возможности для инноваций

¹ Иконки созданы Eucalyp и Sumitsaengtong с сайта www.flaticon.com

Единого решения не существует

• Подотчётность в ИИ — это непрерывный процесс
• С каждым новым достижением ИИ дискуссия об ответственности развивается
• Единого решения нет: подходы различаются в зависимости от отрасли

¹ Иконка создана Freepik с сайта www.flaticon.com

Давайте потренируемся!

Этика ИИ