Этические и экологические проблемы

Концепции больших языковых моделей (LLM)

Vidhi Chugh

AI strategist and ethicist

Этические проблемы

  • Риск прозрачности

Риск прозрачности

Концепции больших языковых моделей (LLM)

Этические проблемы

  • Риск прозрачности
  • Риск подотчётности -

Риск прозрачности и подотчётности

Концепции больших языковых моделей (LLM)

Этические проблемы

  • Риск прозрачности

  • Риск подотчётности

  • Информационные угрозы

Все три этические проблемы: прозрачность, подотчётность, информационные угрозы

Концепции больших языковых моделей (LLM)

Риск прозрачности

  • Результат сложно интерпретировать

 

  • Трудно выявить проблемы
    • Предвзятость
    • Ошибки
    • Злоупотребление
  • «Чёрный ящик»

 

  • Пример: обоснование прогноза исходов заболеваний

Предвзятость, ошибки или злоупотребление результатами LLM

Концепции больших языковых моделей (LLM)

Риск подотчётности

  • Ответственность за действия LLM

 

  • Кто несёт ответственность?
    • Неверные и вредоносные советы
    • Разработчик модели или компания?

 

  • Игра без правил
    • Нет прозрачности
    • Нет подотчётности

 

Подотчётность разработчика или организации, развёртывающей LLM

1 Freepik
Концепции больших языковых моделей (LLM)

Информационные угрозы

Информационные угрозы Распространение вредоносной информации

  • Генерация вредоносного контента
  • Распространение дезинформации
  • Злонамеренное использование
  • Токсичность
Концепции больших языковых моделей (LLM)

Информационные угрозы

 

Генерация вредоносного контента

  • Вредоносный, оскорбительный или неприемлемый

 

  • Запрос или предвзятые обучающие данные

 

  • Пример:
    • Травля vs. дружелюбная школьная среда
    • Тревожный и вредоносный контент

 

Распространение дезинформации

  • Генерирует текст на любую тему

 

  • Но без верификации!

 

  • Пример:
    • «Какая диета подходит для похудения?»
    • Необоснованный план питания
Концепции больших языковых моделей (LLM)

Информационные угрозы

 

Злонамеренное использование

  • Злоумышленники эксплуатируют LLM

 

  • Генерация вводящего в заблуждение контента

 

  • Пример:
    • Сфабрикованные новости
    • Манипуляция общественным мнением и провокация беспорядков

 

Токсичность

  • Неприемлемый контент

 

  • При обучении или через манипулятивные запросы

 

  • Пример:
    • Бестактный ответ
    • Стереотип
Концепции больших языковых моделей (LLM)

Экологические проблемы

 

  • Экологический след LLM

 

  • Значительные энергоресурсы для обучения

 

  • Влияние через выбросы углерода

Сокращение выбросов углерода

1 Freepik
Концепции больших языковых моделей (LLM)

Охлаждение тоже требует электроэнергии!

  • Выделяют значительное тепло, требующее охлаждения

 

  • Представьте тысячи перегревающихся ноутбуков
    • Нужны сложные системы охлаждения
    • Это усугубляет экологический ущерб

 

  • Баланс затрат и выгод
    • Возобновляемая энергия
    • Энергоэффективные технологии

 

Баланс экологических издержек и технологических инноваций

1 Freepik
Концепции больших языковых моделей (LLM)

Давайте потренируемся!

Концепции больших языковых моделей (LLM)

Preparing Video For Download...