Çok adımlı yapay zeka iş akışları tasarlama

Snowflake'te Üretken Yapay Zekaya Giriş

James Cha-Earley

Senior Developer Advocate, Snowflake

Cortex yorum iş akışı

Amaç: Uluslararası misafir geri bildirimi için otomatik sistem kur

$$

  • Her yorumu İngilizceye çevir
  • Ana noktayı özetle
  • Doğru ekibe yönlendirmek için kategorize et
  • Bir yanıt oluştur
  • Yanıtı özgün dile geri çevir

Bir iş akışı: yorum alınır, çevrilir, özetlenir ve kategorize edilir, ardından yanıt gönderilir

Snowflake'te Üretken Yapay Zekaya Giriş

Yorumları çıkarma

-- SQL cell
SELECT DESCRIPTION
FROM HOTELS.REVIEWS
WHERE LANGUAGE = 'es'
LIMIT 1;
# Python cell
df = dataframe_1.to_pandas()
review_text = df["DESCRIPTION"].iloc[0]
Snowflake'te Üretken Yapay Zekaya Giriş

İspanyolca yorum

print(review_text)
Buen hotel y bien situado pero desafortunadamente no me toco buena suerte con 
el servicio; el aire no servía; pedí la cama extra tres veces; la cafetera estaba
dañada; y me sacaron las maletas fuera porque argumentaron que no hice Check out;
siendo que era un día despues; pero su sistema lo marco antes; una total
descortesía hecharme del cuarto y cancelar mis llaves; regresar de caminar y darse
cuenta que han tomado tus cosas fuera es increíble y mas aun sin ninguna disculpa;
yo no volvería ahí aunque la vrd el hotel es bueno y su jubilación el trato
me decepciono
Snowflake'te Üretken Yapay Zekaya Giriş

Çeviri

translated = translate(
    text=review_text,
    from_language="es",
    to_language="en"
)

print(translated)
Good hotel and well located, but unfortunately, I didn't have good luck with the service; the air
conditioning didn't work; I asked for the extra bed three times; the coffee maker was broken; 
and they took my bags out because they argued that I hadn't checked out; even though it was a day
later; but their system marked it as checked out; a total discourtesy to throw me out of the room
and cancel my keys; returning from a walk and realizing they've taken your things out is
incredible and even more so without any apology; I wouldn't go back there even though the hotel
itself is good and their retirement the treatment disappoints me.
Snowflake'te Üretken Yapay Zekaya Giriş

Özetleme

summary = summarize(text=translated)

print(summary)
The hotel was well-located, but the service was disappointing. The air conditioning
didn't work, an extra bed was not provided despite multiple requests, and the coffee
maker was broken. The hotel staff took the complainant's bags and canceled their
keys despite a later checkout date, which was discourteous and left the complainant
feeling disappointed.
Snowflake'te Üretken Yapay Zekaya Giriş

Sınıflandırma

topic = classify_text(
    text=summary,
    labels=["staff", "cleanliness", "pricing", "room", "food"]
)

print(topic)
{
  "label": "staff"
}
Snowflake'te Üretken Yapay Zekaya Giriş

Metin üretimi

response = complete(
        prompt=f"Write a brief and professional response to this review: {summary}",
        model='llama3.1-8b',
        options={'temperature':0.3, 'max_tokens':120})

print(response)
Thank you for sharing your feedback. While we're glad you found the location
convenient, we're truly sorry to hear about the service issues you experienced.
We understand how frustrating it must have been to face multiple inconveniences
during your stay. Your comments have been shared with the team to ensure these concerns
are addressed and do not recur.
Snowflake'te Üretken Yapay Zekaya Giriş

Yanıt çevirisi

translated_response = translate(
    text=response,
    from_language="en",
    to_language="es"
)

print(translated_response)
Gracias por compartir sus comentarios. Si bien nos alegra saber que encontró conveniente
la ubicación, lamentamos sinceramente los inconvenientes que experimentó con el servicio.
Entendemos lo frustrante que debió haber sido enfrentar múltiples inconvenientes durante
su estadía. Sus comentarios han sido compartidos con el equipo para asegurarnos de que
estas situaciones se aborden y no vuelvan a ocurrir.
Snowflake'te Üretken Yapay Zekaya Giriş

Cortex maliyet modeli

Bir cortex iş akışı: giriş tokenları, hesaplama ve çıkış tokenlarının hepsinin bir maliyeti vardır

1 Image generated by ChatGPT-4o
Snowflake'te Üretken Yapay Zekaya Giriş

Maliyeti sınırlama

$$

  • Girdileri kısalt, yalnızca ilgili metni işle

  • Çıktı boyutunu sınırla

  • Sıcaklığı düşür

# complete maliyetini sınırla
complete(prompt=prompt, 
         model='llama3.1-8b', 
         options={
            'max_tokens':120,

'temperature':0})
Snowflake'te Üretken Yapay Zekaya Giriş

Cortex en iyi uygulamalar

  • Modelleri etkili biçimde zincirle
# Birden fazla aşağı akış fonksiyonu çağrılacaksa önce özetle
summarize()
text_classify()
complete()
translate()
  • Günlükleme
  • Önbellekleme
  • Toplu işlem hatları
Snowflake'te Üretken Yapay Zekaya Giriş

Hadi pratik yapalım!

Snowflake'te Üretken Yapay Zekaya Giriş

Preparing Video For Download...