Етичні та екологічні виклики

Концепції Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

Етичні питання

  • Ризик непрозорості

Ризик непрозорості

Концепції Large Language Models (LLMs)

Етичні питання

  • Ризик непрозорості
  • Ризик відповідальності -

Непрозорість і відповідальність

Концепції Large Language Models (LLMs)

Етичні питання

  • Ризик непрозорості

  • Ризик відповідальності

  • Інформаційні загрози

Три етичні питання: прозорість, відповідальність, інформаційні загрози

Концепції Large Language Models (LLMs)

Ризик непрозорості

  • Важко зрозуміти результат

 

  • Складно виявити проблеми
    • Упередженість
    • Помилки
    • Зловживання
  • «Чорна скринька»

 

  • Приклад: обґрунтування прогнозу перебігу хвороби

Упередженість, помилки або зловживання згенерованим LLM результатом

Концепції Large Language Models (LLMs)

Ризик відповідальності

  • Відповідальність за дії LLM

 

  • Хто відповідає?
    • Хибні й шкідливі поради
    • Розробник моделі чи компанія?

 

  • Гра без правил
    • Немає прозорості
    • Немає відповідальності

 

Відповідальність розробника чи організації, що розгортає LLM

1 Freepik
Концепції Large Language Models (LLMs)

Інформаційні загрози

Інформаційні загрози Поширення шкідливої інформації

  • Генерація шкідливого контенту
  • Поширення дезінформації
  • Зловмисне використання
  • Токсичність
Концепції Large Language Models (LLMs)

Інформаційні загрози

 

Генерація шкідливого контенту

  • Шкідливий, образливий або недоречний

 

  • Через підказку або упереджені дані навчання

 

  • Приклад:
    • Булінг vs. дружня шкільна атмосфера
    • Тривожний і шкідливий

 

Поширення дезінформації

  • Генерує текст на будь-яку тему

 

  • Але без перевірки!

 

  • Приклад:
    • "What's a good diet for losing weight?"
    • Необґрунтований план дієти
Концепції Large Language Models (LLMs)

Інформаційні загрози

 

Зловмисне використання

  • Зловмисники експлуатують LLM

 

  • Генерація оманливого контенту

 

  • Приклад:
    • Сфабриковані новини
    • Маніпуляція суспільством і провокування заворушень

 

Токсичність

  • Неприйнятний контент

 

  • Через навчання або маніпульовані підказки

 

  • Приклад:
    • Нечутлива відповідь
    • Стереотип
Концепції Large Language Models (LLMs)

Екологічні питання

 

  • Екологічний слід LLM

 

  • Значні енерговитрати на навчання

 

  • Вплив через викиди вуглецю

Скорочення викидів вуглецю

1 Freepik
Концепції Large Language Models (LLMs)

Охолодження теж споживає електрику!

  • Виділяють багато тепла, яке треба охолоджувати

 

  • Уявіть тисячі перегрітих ноутбуків
    • Потрібні складні системи охолодження
    • Додає екологічного впливу

 

  • Балансуйте вартість і користь
    • Використовуйте відновлювану енергію
    • Енергоефективні технології

 

Зображення, що ілюструє баланс між екологічною вартістю та інноваціями

1 Freepik
Концепції Large Language Models (LLMs)

Давайте потренуємось!

Концепції Large Language Models (LLMs)

Preparing Video For Download...