Kısa cevap: RAG (Retrieval-Augmented Generation, bilgi getirme destekli üretim), yapay zeka modelinin soruyu yanıtlamadan önce şirketinizin belgeleri arasından ilgili bölümleri bulup bunlara dayanarak cevap vermesini sağlayan yöntemdir. Model genel bilgisinden değil sizin içeriğinizden yanıt üretir, hangi belgeye dayandığını gösterebilir ve belgeler güncellendiğinde yeniden eğitim gerektirmez.
RAG nasıl çalışır?
- Hazırlık: PDF, Word, wiki sayfası, e-posta şablonu gibi belgeler küçük parçalara bölünür ve aranabilir bir dizine eklenir.
- Arama: Kullanıcı soru sorduğunda sistem, soruyla anlamca en ilgili parçaları bulur.
- Yanıt: Bulunan parçalar soruyla birlikte dil modeline verilir; model yalnızca bu bilgilere dayanarak cevap yazar.
- Kaynak: Yanıtın altında hangi belgenin hangi bölümünün kullanıldığı gösterilir; kullanıcı doğrulamak isterse tıklayıp açar.
RAG mı, model eğitimi (fine-tuning) mi?
| Başlık | RAG | Fine-tuning |
|---|---|---|
| Amaç | Güncel şirket bilgisine dayalı yanıt | Modele belirli bir üslup veya görev öğretmek |
| Bilgi güncellemesi | Belge değişince hemen yansır | Yeniden eğitim gerekir |
| Kaynak gösterme | Doğal olarak mümkün | Zor |
| Başlangıç maliyeti | Görece düşük | Daha yüksek |
| Uygun olduğu durum | Prosedür, ürün, sözleşme, destek bilgisi | Sabit format, sınıflandırma, özel terminoloji |
Çoğu işletme için doğru başlangıç RAG'dır. Fine-tuning ancak belirli bir görevde tutarlılık gerektiğinde ikinci adım olarak değerlendirilir.
İşletmelerde hangi alanlarda kullanılır?
- İç destek: "İzin süreci nasıl işliyor?", "Bu ürünün garanti koşulu ne?" gibi soruları çalışanlara anında yanıtlamak
- Satış ve teklif: Ürün kataloğu ve fiyat politikasına dayalı hızlı bilgi
- Müşteri desteği: Destek ekibinin taslak yanıtlarını şirket dokümanına dayandırmak
- Uyum ve kalite: Prosedür ve mevzuat belgelerinde ilgili maddeyi bulmak
Doğru çalışan bir RAG sistemi için nelere dikkat edilmeli?
- Belge kalitesi: Çelişkili ya da eski belgeler yanlış yanıta yol açar. Başlamadan önce hangi belgenin "geçerli sürüm" olduğu belirlenmelidir.
- Yetkilendirme: Her çalışan yalnızca görmeye yetkili olduğu belgelerden yanıt almalıdır; muhasebe belgesi satış ekibine görünmemelidir.
- "Bilmiyorum" davranışı: Belgelerde yanıt yoksa sistem uydurmak yerine bunu açıkça söylemelidir.
- Ölçüm: Gerçek sorulardan oluşan bir test seti hazırlanır, yanıtların doğruluğu düzenli olarak kontrol edilir.
- Veri konumu: Belgelerin ve aramaların hangi sunucuda tutulduğu, KVKK ve şirket politikası açısından baştan netleştirilmelidir.
Bir RAG projesine nasıl başlanır?
En iyi başlangıç tek bir belge grubu ve tek bir kullanıcı kitlesidir; örneğin yalnızca insan kaynakları prosedürleri ve yalnızca çalışanlar. Bu pilotta doğruluk ve kullanım ölçülür, ardından yeni belge grupları eklenir. Genel çerçeve için İşletmeler İçin Yapay Zeka: Nereden Başlamalı? yazımıza da göz atabilirsiniz.
Şirket bilginiz klasörlerde mi kayboluyor? Yapay zeka çözümlerimizle belgelerinize dayanan, kaynak gösteren ve yetki kurallarına uyan bir asistan kuruyoruz.
Kaynaklar
Sık Sorulan Sorular
Hata oranı belirgin biçimde düşer ama sıfırlanmaz. Bu yüzden kaynak gösterme, 'bilmiyorum' davranışı ve düzenli doğruluk testleri birlikte kullanılmalıdır.
Kuruluma bağlıdır. Arama dizini kendi sunucunuzda tutulabilir; dil modeline yalnızca soruyla ilgili kısa bölümler gönderilir. Gerekirse kendi sunucunuzda çalışan bir model de kullanılabilir.
PDF, Word, Excel, web sayfaları, wiki içerikleri ve düz metin en yaygın olanlardır. Taranmış belgeler önce metne dönüştürülmelidir.