Куда движутся LLM?

Концепции больших языковых моделей (LLM)

Vidhi Chugh

AI strategist and ethicist

Пройденный путь

Основы LLM

Концепции больших языковых моделей (LLM)

Пройденный путь

Применение LLM в NLP

Концепции больших языковых моделей (LLM)

Пройденный путь

Процессы обучения: работа с данными, этика и экологическое воздействие

Концепции больших языковых моделей (LLM)

Пройденный путь

Будущее LLM

Концепции больших языковых моделей (LLM)

Объяснимость модели

 

  • Как модели приходят к своим ответам?

 

  • Планирование маршрута
    • Почему именно этот путь?
    • Почему эти конкретные места?

 

  • Формирует доверие и прозрачность
  • Выявление и исправление предвзятостей и ошибок

 

Доверие и объяснимость

1 Freepik
Концепции больших языковых моделей (LLM)

Эффективность

  • Вычислительная эффективность

    • Высокое качество вывода при меньших затратах

  • Скорость и эффективность

    • Сжатие модели
    • Оптимизация

  • Преимущества: экономия памяти, снижение энергопотребления

  • Доступность и устойчивость

    • Поддержка «зелёного» ИИ
    • Снижение операционных затрат

Эффективность

1 Freepik
Концепции больших языковых моделей (LLM)

Неконтролируемая обработка предвзятости

  • Предвзятые данные -> дискриминация

  • Неконтролируемая обработка предвзятости

    • Автоматическое выявление и снижение предвзятости
    • Не требует данных с разметкой людьми
    • Обнаруживает и снижает предвзятость через анализ паттернов

  • Сложности

    • Скрытая, трудно обнаруживаемая
    • Может порождать новую предвзятость

Надзор

Концепции больших языковых моделей (LLM)

Расширение творческих возможностей

  • Творчество в текстовых и визуальных формах
  • Художественный контент: усвоенные паттерны, а не эмоциональное понимание
  • Отсутствует человекоподобное восприятие искусства и эмоций
  • Демонстрирует поведение, напоминающее человеческое
  • Будущее: распознавание эмоций

Четыре изображения, сгенерированные ИИ

1 https://arxiv.org/pdf/2302.09582.pdf
Концепции больших языковых моделей (LLM)

Давайте потренируемся!

Концепции больших языковых моделей (LLM)

Preparing Video For Download...