Создание транскриптов звонков клиентов

Мультимодальные системы с OpenAI API

James Chapman

Curriculum Manager, DataCamp

Введение в практический пример

Изображение чат-бота

AI-инженер в DataCamp
Обрабатывает голосовые сообщения
Речевой чат-бот поддержки клиентов

Команда поддержки клиентов в DataCamp

Введение в практический пример

Изображение чат-бота

Введение в практический пример

Шаг: транскрибировать аудио

Введение в практический пример

Шаг: определить язык

Введение в практический пример

Шаг: перевести на английский

Введение в практический пример

Шаг: сгенерировать ответ

Введение в практический пример

Шаг: ответить на языке оригинала

Введение в практический пример

Шаг: модерация

План практического примера

Транскрибировать аудио в текст
Определить язык
Перевести на английский
Уточнить текст

Шаг: перевести на английский

Шаг 1: транскрибирование аудио

from openai import OpenAI

client = OpenAI(api_key="ENTER YOUR KEY HERE")

# Open the mp3 file
audio_file = open("recording.mp3", "rb")

# Create a transcript
response = client.audio.transcriptions.create(
                  model="whisper-1", 
                  file=audio_file)

Шаг 1: транскрибирование аудио

# Extract and print the transcript
transcript = response.text
print(transcript)

Транскрипт на украинском

Шаг 2: определение языка

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=5,

    messages=[{"role": "user", 
        "content": f"""Identify the language of the following text and respond 
         only with the country code (e.g., 'en', 'uk', 'fr'): {transcript}"""}])


# Extract detected language
language = response.choices[0].message.content
print(language)

uk

Шаг 3: перевод на английский

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=300,
    messages=[
        {"role": "user", "content": f"""Translate this customer transcript
        from country code {language} to English: {transcript}"""}])

# Extract translated text
translated_text = response.choices[0].message.content

Шаг 3: перевод на английский

print(translated_text)

Переведённый текст — необработанный

Шаг 3: перевод на английский

print(translated_text)

Переведённый текст (с выделением) — необработанный

Шаг 4: уточнение текста

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=300,
    messages=[
    {"role": "user", 
     "content": f"""You are an AI assistant that corrects transcripts by fixing 
     misinterpretations, names, and terminology. Please refine the following
     transcript:\n\n{translated_text}"""}])

# Extract corrected text
corrected_text = response.choices[0].message.content

Шаг 4: уточнение текста

print(corrected_text)

Исправленный текст (с выделением)

Итоги

Транскрибировали аудио
Определили и перевели язык
Уточнили текст

OpenAI API вызван четыре раза ⭐

Транскрипт на украинском

Переведённый текст (с выделением) — необработанный

Исправленный текст (с выделением)

Давайте потренируемся!

Мультимодальные системы с OpenAI API