Обработка естественного языка

Введение в машинное обучение

Sara Billen

Curriculum Manager at DataCamp

Обработка естественного языка (NLP)

Способность компьютеров понимать смысл человеческого языка

Введение в машинное обучение

Мешок слов

Мешок слов

Введение в машинное обучение

Мешок слов

"U2 is a great band"

Слово Кол-во
U2 1
Queen 0
is 1
a 1
great 1
band 1

"Queen is a great band"

Слово Кол-во
U2 0
Queen 1
is 1
a 1
great 1
band 1
Введение в машинное обучение

Мешок слов: n-граммы

"That book is not great"

Слово Кол-во
That 1
book 1
is 1
not 1
great 1

2-грамма (биграмма)

Словосочетание Кол-во
That book 1
book is 1
is not 1
not great 1
Введение в машинное обучение

Мешок слов: ограничения

  • Подсчёт слов не учитывает синонимы
  • Пример: «blue»
    • «sky-blue»
    • «aqua»
    • «cerulean»
  • Желательно объединять их в один признак

blue

Введение в машинное обучение

Векторные представления слов

Векторные представления слов

  • Создают признаки, группирующие похожие слова
  • Признаки имеют математический смысл:

$$

king - man + woman = queen

Введение в машинное обучение

Машинный перевод

Перевод с помощью нейронной сети

Введение в машинное обучение

Применение

  • Машинный перевод
  • Чат-боты
  • Персональные ассистенты
  • Анализ тональности
  • ...

Человек переписывается с чат-ботом на смартфоне

Введение в машинное обучение

Глубокое обучение

  • Два типа задач
    • Компьютерное зрение
    • Обработка естественного языка
  • Почему глубокое обучение?
    • Сложные задачи
    • Автоматическое извлечение признаков
    • Большие объёмы данных

Введение в машинное обучение

Давайте потренируемся!

Введение в машинное обучение

Preparing Video For Download...