RAG Nedir? Retrieval-Augmented Generation ve Vektör Veritabanı Mimarisi
RAG (Retrieval-Augmented Generation), bir dil modelinin cevabı üretmeden önce kurumun kendi belgelerinden ilgili bilgiyi arayıp bulduğu ve bu bilgiyi bağlam olarak kullandığı yapay zeka mimarisidir. Model bilgiyi ezberlemek yerine, her soruda güncel kaynağa gider, ilgili parçaları çeker ve cevabı bu parçaların üzerine kurar. Böylece modelin eğitim verisinde hiç bulunmayan sözleşmeler, ürün kataloğu, iç prosedürler veya destek kayıtları da cevaplanabilir hâle gelir.
RAG hangi sorunu çözüyor?
Büyük dil modelleri halka açık metinlerle eğitilir ve eğitim tamamlandığı anda modelin bilgisi sabitlenir. Bu durum kurumsal kullanımda iki somut boşluk bırakır.
Modelin bilmediği kurum verisi. Bir dil modeli; sizin fiyat listenizi, iade politikanızı, teknik şartnamenizi veya geçen hafta güncellenen prosedürünüzü bilmez. Bu bilgiler hiçbir zaman eğitim setine girmemiştir, girmemelidir de. Modele "bizim iade süremiz kaç gün?" diye sorduğunuzda, elinde gerçek kaynak yoksa genel bir tahmin üretir.
Halüsinasyon. Dil modelleri bir sonraki kelimeyi olasılık hesabıyla seçer. Bilmediği bir konuda "bilmiyorum" demek yerine, dilbilgisel olarak kusursuz ama içerik olarak uydurma bir cevap üretebilir. Bu davranış, kurumsal bir destek hattında veya iç bilgi asistanında kabul edilemez.
RAG bu iki sorunu aynı anda ele alır. Soru geldiğinde önce arama yapılır, sonra üretim. Model artık hatırlamaya çalışmaz; önüne konan kaynak metinden okur ve cevabı ona dayandırır. Doğru kurgulanmış bir sistemde model, kaynakta karşılığı olmayan sorulara "bu bilgi belgelerimde yok" diyebilir. Bu davranış, kurumsal yapay zeka projelerinde güvenin temelidir.
RAG nasıl çalışır?
RAG iki aşamalı bir sistemdir: belgelerin önceden hazırlandığı indeksleme aşaması ve kullanıcı sorusuyla tetiklenen sorgulama aşaması.
- İndeksleme: Belgeler parçalanır, vektöre çevrilir ve saklanır.
- Sorgulama: Soru vektöre çevrilir, ilgili parçalar bulunur ve cevap bu parçalarla üretilir.
1. Parçalama (chunking)
Belgeler olduğu gibi modele verilemez; hem bağlam penceresi sınırlıdır hem de uzun metnin içinde ilgili cümle kaybolur. Bu yüzden dokümanlar anlamlı parçalara bölünür. İyi parçalama cümle veya başlık sınırlarını gözetir, parçalar arasında bir miktar örtüşme bırakır ve her parçaya kaynak bilgisi (dosya adı, başlık, tarih, bölüm numarası) iliştirir. Parçalama, RAG kalitesini en çok etkileyen ama en çok ihmal edilen adımdır.
2. Gömme (embedding)
Her parça, bir gömme modeli aracılığıyla sayı dizisine, yani vektöre dönüştürülür. Bu vektör metnin anlamsal konumunu temsil eder. Anlamca yakın iki metin, vektör uzayında da birbirine yakın konumlanır. "Fatura iptali nasıl yapılır" ile "faturayı geri almak istiyorum" ifadeleri ortak kelime içermese bile birbirine yakın vektörlere sahip olur. Klasik anahtar kelime aramasının çözemediği sorun tam olarak budur.
3. Vektör arama ve geri getirme
Kullanıcı sorusu da aynı gömme modeliyle vektöre çevrilir ve veri tabanındaki en yakın parçalar bulunur. Genellikle en yakın birkaç parça seçilir. Olgun sistemlerde bu adım tek başına bırakılmaz: anahtar kelime aramasıyla birleştirilen hibrit arama, metadata filtreleri (departman, tarih aralığı, dil) ve sonuçları tekrar sıralayan yeniden sıralama (reranking) modelleri devreye girer.
4. Bağlamla üretim
Seçilen parçalar, kullanıcı sorusuyla birlikte dil modeline verilir. İstem (prompt) modele açık talimat içerir: yalnızca verilen bağlamı kullan, bağlamda yoksa uydurma, kaynağı belirt. Model cevabı üretir ve iyi tasarlanmış arayüzlerde her iddianın yanında hangi belgeden geldiği gösterilir. Kaynak gösterimi, kullanıcının cevabı doğrulayabilmesi için kritik bir tasarım kararıdır.
Vektör veritabanı nedir?
Vektör veritabanı, metinlerin gömme vektörlerini saklayan ve "bu vektöre en yakın olanları getir" sorgusunu hızlıca yanıtlayan bir depolama sistemidir. Klasik bir veritabanı tam eşleşme veya aralık sorgusu için tasarlanmıştır; vektör veritabanı ise benzerlik sorgusu için tasarlanmıştır.
Çok sayıda vektör arasında her seferinde tek tek karşılaştırma yapmak pratik olmadığı için bu sistemler yaklaşık en yakın komşu (ANN) algoritmaları kullanır. HNSW ve IVF gibi indeks yapıları, doğruluktan bir miktar ödün vererek aramayı belirgin biçimde hızlandırır. Ayrıca çoğu vektör veritabanı, vektörün yanında metadata saklamaya ve arama sırasında bu metadata ile filtrelemeye izin verir; kurumsal senaryolarda yetki bazlı filtreleme için bu özellik zorunludur.
Pratikte üç seçenek vardır: özel amaçlı vektör veritabanları, mevcut veritabanınıza eklenen vektör uzantıları ve arama motorlarının vektör destekli sürümleri. Doğru seçim; veri hacmine, güncelleme sıklığına, barındırma tercihine ve ekibin hâlihazırda işlettiği altyapıya bağlıdır. Orta ölçekli kurumsal bilgi tabanları için, zaten kullanılan ilişkisel veritabanına vektör desteği eklemek çoğu zaman en sade yoldur.
RAG'in sınırları
RAG bir sihir değil, bir arama probleminin üzerine kurulmuş bir üretim katmanıdır. Aramanın kalitesi düşükse cevabın kalitesi de düşer. Sahada en sık görülen sınırlar şunlardır.
Kötü parçalama. Bir tablo ortasından bölünmüşse, bir maddenin koşulu bir parçada ve istisnası başka parçada kalmışsa, model eksik bilgiyle cevap üretir. Sonuç teknik olarak halüsinasyon değildir ama kullanıcı için aynı derecede yanlıştır.
Bayat veri. Politika değişti, indeks güncellenmedi. RAG'in en sinsi hatası budur, çünkü sistem kendinden emin biçimde eski doğruyu söyler. Bu yüzden indeksleme bir kerelik iş değil, işletilmesi gereken bir süreçtir: değişiklik yakalama, yeniden gömme, eski parçaların silinmesi.
Yanlış geri getirme. Soru belirsizse veya belgelerde benzer konulu birden çok bölüm varsa, arama alakasız parçalar getirebilir. Model de önüne konan alakasız metne sadık kalarak yanlış cevap üretir. Hibrit arama, yeniden sıralama ve soruyu netleştirme adımları bu riski azaltır.
Çelişen kaynaklar. Kurum arşivinde aynı konuda birbiriyle çelişen iki doküman varsa, RAG bu çelişkiyi çözmez; hangisini getirdiyse ona göre cevap verir. Bu, teknik bir sorun değil, içerik yönetişimi sorunudur.
Yetki sızıntısı. Herkesin erişmemesi gereken belgeler indekse girdiyse, doğru soruyu soran herkes o bilgiye ulaşabilir. Yetki kontrolü model katmanında değil, arama katmanında kurulmalıdır.
Bu sınırların hiçbiri RAG'i geçersiz kılmaz; hepsi mühendislik kararlarıyla yönetilir. Ancak "belgeleri yükledik, hazır" beklentisiyle başlayan projeler tam da burada takılır. Yapay zeka ve otomasyon projelerinde ölçüm ve iyileştirme döngüsünün neden şart olduğunu süreç otomasyonuna nereden başlanır yazımızda ayrıntılı ele aldık.
RAG ile ince ayar (fine-tuning) arasındaki fark
İkisi rakip değil, farklı işleri yapan iki araçtır. RAG modele ne bildiğini verir; ince ayar modele nasıl davranacağını öğretir. Sık değişen olgusal bilgi RAG'e; sabit üslup, biçim ve terminoloji kuralları ince ayara aittir.
| Ölçüt | RAG | İnce ayar (fine-tuning) |
|---|---|---|
| Maliyet | Kurulum ve indeksleme maliyeti; her sorguda arama ve daha uzun bağlam | Eğitim çalıştırması ve etiketli veri hazırlama maliyeti; sorgu başına ek yük düşük |
| Güncellik | Belge güncellenince indeks tazelenir, cevap hemen değişir | Bilgi model ağırlıklarına gömülür; güncelleme için yeniden eğitim gerekir |
| Veri gizliliği | Veri kendi deponuzda kalır, yetkiye göre filtrelenebilir | Veri eğitim sürecine girer; ağırlıklardan geri ayıklamak pratik değildir |
| Kaynak gösterimi | Cevabın dayandığı belge gösterilebilir | Cevabın kaynağı izlenemez |
| Neye uygun | Değişen olgular: politika, fiyat, katalog, prosedür, destek arşivi | Sabit davranış: üslup, çıktı biçimi, alana özgü terminoloji, sınıflandırma |
| Başlangıç eşiği | Düzenli belge yeterli; hızlı prototip mümkün | Nitelikli ve yeterli sayıda örnek veri şarttır |
Pratik kural: önce RAG kurun, ölçün, nerede yetersiz kaldığını görün. Sorun bilgiye erişimde değil de modelin cevap biçiminde veya alan diline hâkimiyetindeyse, ince ayarı o zaman gündeme alın. Birçok kurumsal senaryoda ikisi birlikte kullanılır; ince ayarlı bir model, RAG ile beslenir.
RAG'i ajan mimarisine bağlamak
RAG tek başına bir soru-cevap katmanıdır. Asıl değeri, bir iş akışının parçası hâline geldiğinde ortaya çıkar: bilgiyi bulan, karar veren ve bir işlem başlatan sistemler. Yapay zeka ajanları, RAG'i araçlarından biri olarak kullanır; belgeden bilgiyi çeker, kural motoruyla doğrular, gerektiğinde bir kayıt açar veya konuyu bir insana devreder. Kurumunuzda hangi verinin bu mimariye uygun olduğunu ve nereden başlanması gerektiğini konuşmak için hizmetlerimiz sayfasındaki çözüm başlıklarını inceleyebilirsiniz.
Sık Sorulan Sorular
RAG için kendi dil modelimi eğitmem gerekir mi?
Hayır. RAG'in temel avantajı, hazır bir dil modelini kendi verinizle çalışır hâle getirmesidir. Model eğitimi gerekmez; ihtiyaç duyulan şey düzenli belgeler, bir gömme modeli ve vektör araması yapabilen bir depodur.
RAG halüsinasyonu tamamen bitirir mi?
Bitirmez, belirgin biçimde azaltır. Model doğru bağlamı aldığında uydurma ihtimali düşer; ancak yanlış parça getirilirse veya bağlam eksikse hatalı cevap yine mümkündür. Kaynak gösterimi, "bilgi bulunamadı" davranışı ve düzenli değerlendirme bu riski yönetmenin yollarıdır.
Verilerim dışarı çıkar mı?
Bu, mimari tercihine bağlıdır. Belgeler kendi altyapınızdaki vektör veritabanında durur; yalnızca soruya karşılık seçilen parçalar dil modeline gönderilir. Tamamen kapalı bir kurulum isteniyorsa, kendi ortamınızda çalışan açık kaynak modellerle de RAG kurulabilir.
Ne kadar belgeyle başlanabilir?
Sayıdan çok kalite belirleyicidir. Güncel, çelişkisiz ve iyi başlıklandırılmış birkaç düzine doküman, dağınık binlerce dosyadan daha iyi sonuç verir. Doğru başlangıç, en çok soru alan konu başlığını seçip o alanın belgelerini derli toplu hâle getirmektir.
RAG ile arama motoru arasındaki fark nedir?
Arama motoru size belge listesi verir, okumayı size bırakır. RAG ilgili parçaları bulup cevabı doğal dilde birleştirir ve kaynağı gösterir. Altında yine bir arama vardır; fark, sonucun sunulma biçiminde ve birden çok parçayı tek cevapta toplayabilmesindedir.
