Kısa cevap: RAG nedir?
RAG, İngilizce Retrieval-Augmented Generation ifadesinin kısaltması; Türkçede "bilgi getirme destekli üretim" olarak karşılanabilir. Model bir soruyu cevaplamadan önce şirketinizin doküman havuzunda arama yapar, soruyla en ilgili bölümleri bulur ve cevabını bu bölümlere dayanarak yazar. Cevabın yanında hangi belgeden geldiği de gösterilir.
Böylece model yeniden eğitilmeden güncel kurum bilgisiyle çalışır, kullanıcı her cevabı kaynağından doğrulayabilir ve belgeye erişim yetkisi olmayan kişi o belgenin içeriğini cevapta göremez.
RAG nasıl çalışır?
- 1Hazırlık: Dokümanlar (PDF, Word, wiki sayfaları, e-postalar, kayıtlar) toplanır, temizlenir ve anlamlı parçalara bölünür.
- 2Vektörleştirme: Her parça bir embedding modeliyle sayısal bir temsile dönüştürülür ve vektör veritabanına yazılır. Bu sayede arama kelimeye değil anlama göre yapılır.
- 3Arama: Kullanıcı soru sorduğunda soru da aynı şekilde temsil edilir ve en yakın parçalar bulunur. Çoğu kurulumda anlam araması klasik anahtar kelime aramasıyla birleştirilir.
- 4Sıralama ve filtre: Bulunan parçalar yeniden sıralanır ve kullanıcının yetkisi olmayan belgeler çıkarılır.
- 5Cevap üretimi: Dil modeli yalnızca seçilen parçaları bağlam olarak alır, cevabı yazar ve kaynakları listeler. Kaynakta karşılığı olmayan sorularda "bu konuda belge bulunamadı" demesi sağlanır.
RAG mı, fine-tuning mi?
Kurum bilgisini modele öğretmenin iki yolu sık karşılaştırılıyor. Çoğu kurumsal bilgi asistanı için doğru başlangıç RAG oluyor; fine-tuning ise belirli bir üslup, format veya dar bir görev için tamamlayıcı olarak kullanılıyor.
| RAG | Fine-tuning | |
|---|---|---|
| Bilgi güncelliği | Doküman eklendiği anda kullanılır | Yeni bilgi için yeniden eğitim gerekir |
| Kaynak gösterme | Her cevap belgesiyle gelir | Kaynak gösterilemez |
| Yetki kontrolü | Belge bazında uygulanır | Model içine girmiş bilgi ayrıştırılamaz |
| Uygun olduğu iş | Prosedür, politika, ürün ve teknik bilgi | Üslup, format, sınıflandırma gibi dar görevler |
| Başlangıç maliyeti | Daha düşük, kademeli büyür | Veri hazırlığı ve eğitim maliyeti yüksek |
Kurumlarda RAG ile kurulan çözümler
- Kurum içi asistan ve chatbot: Çalışanların İK, BT, finans ve operasyon prosedürlerine dair sorularını kaynaklı cevaplar.
- Teknik doküman arama: Bakım kılavuzları, ürün şartnameleri ve arıza kayıtları arasında anlam tabanlı arama.
- Müşteri hizmetleri desteği: Temsilciye müşteri sorusunun cevabını ilgili sözleşme ve ürün belgesiyle birlikte önerir.
- Sözleşme ve mevzuat: Hukuk ekibinin sözleşme havuzunda madde bazlı arama ve karşılaştırma yapması.
- Satış ve teklif: Geçmiş teklif, ürün ve fiyat dokümanlarından hızlı özet ve taslak hazırlama.
Kurumsal RAG kurarken dikkat edilecek altı nokta
- 1Veri kalitesi: Güncel olmayan veya çelişen belgeler cevap kalitesini en çok etkileyen etken. Kurulumdan önce sahipli ve güncel bir doküman havuzu belirlenmeli.
- 2Parçalama stratejisi: Tablolar, maddeler ve başlıklar bozulmadan bölünmeli. Belge türüne göre farklı parçalama kuralları kullanılmalı.
- 3Yetki: Kullanıcı yalnızca erişim hakkı olan belgelerden cevap almalı. Kurum içi kimlik sistemiyle (Active Directory, Entra ID, Google) entegrasyon şart.
- 4Türkçe: Embedding ve dil modelinin Türkçe performansı kurum dokümanlarıyla test edilmeli; ekler ve sektör terimleri arama kalitesini doğrudan etkiliyor.
- 5Ölçüm: Gerçek sorulardan oluşan bir test seti hazırlanmalı; doğru cevap, doğru kaynak ve "bilmiyorum" deme oranı düzenli ölçülmeli.
- 6Kayıt ve izleme: Hangi sorunun hangi belgeyle cevaplandığı kayıt altına alınmalı, cevap bulunamayan sorular doküman eksiklerini göstermek için kullanılmalı.
Bulutta mı, lokalde mi?
RAG altyapısı bulutta da kurumun kendi sunucularında da kurulabiliyor. Kişisel veri, ticari sır veya regülasyon kapsamındaki belgelerle çalışılacaksa embedding modeli, vektör veritabanı ve dil modelinin birlikte lokalde çalıştığı bir kurulum veriyi kurum dışına çıkarmadan aynı deneyimi sunuyor. Daha genel belgelerde bulut modelleri hızlı bir başlangıç sağlıyor. Birçok kurumda iki yapı birlikte kullanılıyor.
Nasıl başlanır?
- 1Tek bir kullanım alanı seçin: Sık soru gelen, belgeleri belli ve sahibi olan bir alan (örneğin İK prosedürleri veya teknik kılavuzlar).
- 2Test sorularını toplayın: O alanda gerçekten sorulan 50 ila 100 soruyu ve doğru cevaplarını belirleyin.
- 3Pilot kurun: Seçilen belgelerle, kurum kimlik sistemine bağlı bir pilot kurup test setiyle ölçün.
- 4Genişletin: Ölçülen sonuca göre yeni doküman havuzlarını ve birimleri kademeli olarak ekleyin.
Palerion olarak kurum içi bilgi asistanlarını ve RAG tabanlı arama çözümlerini kurumun verisine, yetki yapısına ve altyapısına göre kuruyoruz; ihtiyaca göre bulutta ya da tamamen kendi sunucularınızda.
Özel Yapay Zeka Yazılım Geliştirme
Pilot Sprint ile başlayalım
Tek bir iş akışında, gerçek veriyle çalışan ve sonucu ölçülen ilk sürüm.
Sık sorulan sorular
RAG nedir?
RAG (Retrieval-Augmented Generation), bir dil modelinin cevap vermeden önce kurumun doküman havuzunda arama yapıp ilgili bölümleri bulduğu ve cevabını bu bölümlere dayanarak, kaynağını göstererek yazdığı yöntem. Model yeniden eğitilmeden güncel kurum bilgisiyle çalışır.
RAG ile kurumsal chatbot arasındaki fark nedir?
Kurumsal chatbot, çalışanların veya müşterilerin soru sorduğu arayüz. RAG ise bu chatbot'un cevaplarını kurum belgelerine dayandıran yöntem. Bugün kaynak gösteren kurumsal chatbot'ların büyük kısmı RAG ile çalışıyor.
RAG Türkçe dokümanlarla çalışır mı?
Evet. Türkçe performansı iyi embedding ve dil modelleriyle Türkçe dokümanlarda yüksek doğruluk elde ediliyor. Kurulumda modelleri kurumun kendi belgeleri ve sorularıyla test ederek seçiyoruz.
RAG için verilerimizin buluta çıkması gerekir mi?
Verileriniz kurum içinde kalabilir. Embedding modeli, vektör veritabanı ve dil modeli kurumun kendi sunucularında çalışacak şekilde kurulabiliyor. Bu durumda dokümanlar ve sorular kurum dışına çıkmıyor.
Bir RAG pilotu ne kadar sürer?
Belgeleri belli tek bir kullanım alanı için pilot genellikle birkaç hafta içinde kuruluyor. Süreyi en çok doküman havuzunun hazırlığı ve kimlik sistemi entegrasyonu belirliyor.
İlgili çözümler