Классификация текста

Работа с Hugging Face

Jacob H. Marquez

Lead Data Engineer

Классификация текста: анализ тональности

Определяет эмоциональный тон текста

Анализ тональности

Применение: анализ отзывов, мониторинг социальных сетей

Иконка тональности

Анализ тональности: пример кода

from transformers import pipeline


my_pipeline = pipeline(
    "text-classification",
    model="distilbert-base-uncased-finetuned-sst-2-english"
)

print(my_pipeline("Wi-Fi is slower than a snail today!"))

[{'label': 'NEGATIVE', 'score': 0.99}]

Классификация текста: грамматическая правильность

Проверка грамматики

Оценивает грамматическую правильность текста

Пример проверки грамматики

Применение: проверка грамматики, инструменты для изучения языков

Грамматическая правильность: пример кода

from transformers import pipeline


# Create a pipeline for grammar checking
grammar_checker = pipeline(
    task="text-classification",
    model="abdulmatinomotoso/English_Grammar_Checker"
)

# Check grammar of the input text
print(grammar_checker("He eat pizza every day."))

[{'label': 'LABEL_0', 'score': 0.99}]

Классификация текста: QNLI

$$ Q&A

Проверяет, отвечает ли посылка на заданный вопрос
Применение: системы вопросов и ответов, проверка фактов

Пример QNLI

QNLI: пример кода

from transformers import pipeline


classifier = pipeline(
    task="text-classification",
    model="cross-encoder/qnli-electra-base"
)


classifier("Where is Seattle located?, Seattle is located in Washington state.")

[{'label': 'LABEL_0', 'score': 0.997}]

Классификация текста: динамическое присвоение категорий

Динамически присваивает категории на основе содержания

Пример присвоения категорий

Применение: модерация контента, рекомендательные системы

Присвоение категорий

Динамическое присвоение категорий: пример кода

classifier = pipeline(
  task="zero-shot-classification", 
  model="facebook/bart-large-mnli")


text = "Hey, DataCamp; we would like to feature your courses in our newsletter!"
categories = ["marketing", "sales", "support"]


output = classifier(text, categories)


print(f"Top Label: {output['labels'][0]} with score: {output['scores'][0]}")

Top Label: support with score: 0.8183

Сложности классификации текста

Неоднозначность

Сложности классификации текста

Сарказм

Сложности классификации текста

Многоязычность

Давайте потренируемся!

Работа с Hugging Face