LLM’lere ne zaman güvenmelisiniz

İş Dünyası için Büyük Dil Modelleri

Iason Prassides

Content Developer, DataCamp

Duolingo’yu en verimli kullanma

Duolingo Max ürününün logosu

¹ https://blog.duolingo.com/duolingo-max/

Duolingo Max
- ChatGPT’yi insan benzeri sohbetler için kullanır
Öğrenenler dil pratiği yapar
- GPT farklı kişiliklere bürünür
- Anında geri bildirim verir

Mobil uygulamada Duolingo Max kullanımını gösteren görsel

¹ https://blog.duolingo.com/duolingo-max/

Sihirbaz değnekle numara yapıyor

Üzerinde "sağduyu" yazan bir etiketi tutan adam

LLM’ler, eğitildikleri veriye bağımlıdır
Önyargı veya toplumsal adaletsizlik büyütülebilir
- Zararlı çıktıları tespit için yanıtları kontrol edin

Farklı yüksekliklerde istiflenmiş paralar ve her yığının üzerinde farklı renklerde oyun taşları

LLM’ler nefret söylemi içeren yorumlarla da eğitilir
- Yanıtlar da nefret içerebilir
Önyargı barındıran veri kümeleri
- Sistematik önyargılı çıktılar üretir
Önyargı, klişe veya yanlış bilgiyi sürdürebilir
Geliştiriciler bunu önlemek için önlemler ekledi
Şirketler farkında olmalı ve korumalar sağlamalıdır

"Misinformation" kelimesini gösteren görsel

Aynı istem -> farklı yanıtlar
Yaratıcılıkta faydalı, diğerlerinde sorunlu
Pazarlama ekibi LLM’lerle ürün açıklaması yazar:
- Müşteriler farklı açıklamalar görür
- Marka imajı zarar görebilir

Süpermarkette ambalaj rengi dışında aynı görünen iki ürüne bakan adam

Güvenlik uyarısını belirten üçgen içinde kırmızı ünlem işareti

Birçok zorluk sektöre özeldir
Open Worldwide Application Security Project (OWASP)
- Zorlukları sayısallaştırır
Şirketler risklerin farkında olmalı
LLM karmaşıklıklarını anlamalı
İnsan denetimini sağlamalı
Eğitim ve güvenliğe yatırım yapmalı

"Önde Zorluklar" yazılı, engel atlayan adam işareti olan yol tabelası

¹ https://owasp.org/

İş Dünyası için Büyük Dil Modelleri