Skapa samtalsutskrifter för kundtjänst

Multimodala system med OpenAI API

James Chapman

Curriculum Manager, DataCamp

Introduktion till fallstudien

En bild av en chatbot

$$

  • AI Engineer på DataCamp
  • Hanterar röstmeddelanden
  • Talbaserad kundtjänstchatbot

$$

$$

Kundtjänstteam på DataCamp

Multimodala system med OpenAI API

Introduktion till fallstudien

En bild av en chatbot

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: transkribera ljud

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: identifiera språk

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: översätt till engelska

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: generera ett svar

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: svara på originalspråket

Multimodala system med OpenAI API

Introduktion till fallstudien

Steg: moderering

Multimodala system med OpenAI API

Plan för fallstudien

$$

$$

  1. Transkribera ljudet till text
  2. Identifiera språket
  3. Översätt till engelska
  4. Förfina texten

$$

Steg: översätt till engelska

Multimodala system med OpenAI API

Steg 1: transkribera ljud

from openai import OpenAI

client = OpenAI(api_key="ENTER YOUR KEY HERE")

# Open the mp3 file
audio_file = open("recording.mp3", "rb")

# Create a transcript
response = client.audio.transcriptions.create(
                  model="whisper-1", 
                  file=audio_file)
Multimodala system med OpenAI API

Steg 1: transkribera ljud

# Extract and print the transcript
transcript = response.text
print(transcript)

$$

Utskrift på ukrainska

Multimodala system med OpenAI API

Steg 2: identifiera språk

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=5,

messages=[{"role": "user", "content": f"""Identify the language of the following text and respond only with the country code (e.g., 'en', 'uk', 'fr'): {transcript}"""}])
# Extract detected language language = response.choices[0].message.content print(language)
uk
Multimodala system med OpenAI API

Steg 3: översätt till engelska

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=300,
    messages=[
        {"role": "user", "content": f"""Translate this customer transcript
        from country code {language} to English: {transcript}"""}])

# Extract translated text
translated_text = response.choices[0].message.content
Multimodala system med OpenAI API

Steg 3: översätt till engelska

print(translated_text)

Översatt text – rå

Multimodala system med OpenAI API

Steg 3: översätt till engelska

print(translated_text)

Översatt text (markerad) – rå

Multimodala system med OpenAI API

Steg 4: förfina texten

response = client.chat.completions.create(
    model="gpt-4o-mini",
    max_completion_tokens=300,
    messages=[
    {"role": "user", 
     "content": f"""You are an AI assistant that corrects transcripts by fixing 
     misinterpretations, names, and terminology. Please refine the following
     transcript:\n\n{translated_text}"""}])

# Extract corrected text
corrected_text = response.choices[0].message.content
Multimodala system med OpenAI API

Steg 4: förfina texten

print(corrected_text)

Korrigerad text (markerad)

Multimodala system med OpenAI API

Sammanfattning

$$

  • Transkriberade ljudet
  • Identifierade och översatte språket
  • Förfinade texten

$$

  • Anropade OpenAI API fyra gånger ⭐

Utskrift på ukrainska

Översatt text (markerad) – rå

Korrigerad text (markerad)

Multimodala system med OpenAI API

Nu kör vi en övning!

Multimodala system med OpenAI API

Preparing Video For Download...