RAG Modellerini Anlamak: LLM'leri Gerçek Dünya Bilgisiyle Temellendirmek

GPT-4 veya Gemini gibi Büyük Dil Modelleri (LLM’ler) inanılmaz derecede güçlüdür, ancak birkaç kritik zayıflıkları vardır: Halüsinasyon görürler (gerçek dışı bilgiler üretiler), eğitimlerinin bittiği tarihten sonraki bilgileri bilmezler ve özel alan verilerinize erişimleri yoktur.

Bu sınırlamaları çözmek için geliştiriciler Arama Destekli Nesil (Retrieval-Augmented Generation - RAG) kullanırlar. RAG, harici bir veritabanından ilgili bilgileri alan ve doğru, bağlama duyarlı yanıtlar üretmesi için bunu LLM’e sağlayan bir çerçevedir.

İşte RAG modellerini, nasıl çalıştıklarını ve kurumsal yapay zeka için neden temel olduklarını anlamak için kapsamlı bir rehber.

1. Arama Destekli Nesil (RAG) Nedir?

RAG temelde iki ayrı süreci birleştirir:

1. Arama (Retrieval): Bir kullanıcının sorgusuna dayanarak bilgi tabanından ilgili belgeleri veya metin parçalarını bulmak.
2. Nesil (Generation): LLM’in doğru bir yanıt üretebilmesi için aranan belgeleri kullanıcının sorgusuyla birlikte LLM’e beslemek.

Bunu açık kitap sınavı gibi düşünün. LLM’in yalnızca eğitim sırasında ezberlediği şeylere güvenmek (kapalı kitap sınavı) yerine, modelin yanıt vermeden önce bir referans kitabını (bilgi tabanını) aramasına izin verilir.

2. Adım Adım RAG İşlem Hattı

Standart bir RAG işlem hattı üç ana aşamadan oluşur: Veri Hazırlama (Ingestion), Arama (Retrieval) ve Nesil (Generation).

Aşama 1: Veri Hazırlama (Ingestion)

Sistemin bilgi arayabilmesi için ham verilerin işlenmesi gerekir:

• Yükleme: Belgeler (PDF’ler, Markdown, Web sayfaları vb.) toplanır.
• Metin Bölme (Chunking): Büyük dosyalar daha küçük, yönetilebilir metin parçalarına (örneğin, 500 karakter) bölünür.
• Vektörleştirme (Embedding): Bir gömme (embedding) modeli bu metin parçalarını, anlamsal manalarını temsil eden yoğun matematiksel vektörlere dönüştürür.
• Depolama: Bu vektör gösterimleri özel bir Vektör Veritabanında (Milvus, Pinecone veya Qdrant gibi) saklanır.

Aşama 2: Arama (Retrieval)

Bir kullanıcı soru sorduğunda:

1. Kullanıcının sorgusu, aynı gömme modeli kullanılarak bir vektöre dönüştürülür.
2. Sistem, sorguyla en ilgili metin parçalarını bulmak için vektör veritabanında bir vektör benzerlik araması (Kosinüs Benzerliği gibi) gerçekleştirir.
3. En iyi eşleşen parçalar getirilir.

Aşama 3: Nesil (Generation)

1. Getirilen metin parçaları, kullanıcının orijinal sorgusuyla ayrıntılı bir istem (prompt) şablonunda birleştirilir.
2. Bu istem LLM’e gönderilir.
3. LLM bağlamı okur, ilgili gerçekleri çıkarır ve sağlanan belgelere dayalı doğal bir dil yanıtı üretir.

3. Vektör Gömme (Embedding) Modelleri Nasıl Oluşturulur?

Vektör gömmeleri (embeddingler), RAG mimarisinin matematiksel omurgasını oluşturur. İnsan dilini, anlamsal manayı yakalayan yoğun sayısal vektörlere dönüştürürler.

• Vektörleştirme Süreci:
  1. Belirteçlere Ayırma (Tokenization): Metin parçası, belirteç (token) adı verilen daha küçük parçalara bölünür.
  2. Kodlayıcı Model (Encoder): BERT veya OpenAI’ın text-embedding-3 modeli gibi Transformer tabanlı özel bir kodlayıcı model belirteçleri işler.
  3. Yüksek Boyutlu Vektör: Model, sayıların listesini içeren bir çıktı verir (genellikle 384, 768 veya 1536 boyutlu). Her boyut farklı bir anlamsal özelliği veya kavramı temsil eder.
• Anlamsal Eşleme: Bu vektör uzayında, benzer anlamlara sahip kelimeler veya ifadeler birbirine yakın konumlarda yer alır. Örneğin “kedi” vektörü, “araba” vektörüne kıyasla “yavru kedi” vektörüne çok daha yakın olacaktır.
• Mesafe Metrikleri: Vektör veritabanları, sorgu ve belge vektörleri arasındaki mesafeyi Kosinüs Benzerliği (vektörler arasındaki açı), İç Çarpım (Dot Product) veya Öklid Mesafesi gibi matematiksel formüller kullanarak ölçer ve en alakalı bağlamı bulur.

4. Tam RAG İş Akışı Rehberi

İşte bir isteğin RAG sistemi üzerinden nasıl geçtiğine dair adım adım bir kılavuz:

[Kullanıcı Sorgusu] ──> [Gömme Modeli] ──> [Sorgu Vektörü]
                                                │
                                                ▼
[LLM Yanıtı] <── [LLM] <── [İstem (Prompt)] <── [Vektör DB Araması]
                             (Bağlam + Sorgu)

1. Kullanıcı Girişi: Kullanıcı bir sorgu gönderir (örneğin, “3. Çeyrek gelirimiz ne kadardı?”).
2. Sorgunun Vektörleştirilmesi: Sorgu, gömme modeli tarafından bir vektöre dönüştürülür.
3. Veritabanı Araması: Vektör veritabanı sorgu vektörünü tüm belge vektörleriyle karşılaştırır ve en yakın eşleşen en iyi K metin parçasını getirir.
4. Bağlam Birleştirme: Getirilen metin parçaları, kullanıcının orijinal sorgusuyla birlikte bir istem şablonuna eklenir.
5. LLM Çıkarımı: LLM bağlamla zenginleştirilmiş istemi okur ve sağlanan belgelere dayalı doğal, gerçeklere dayalı olarak doğru bir yanıt üretir.

5. RAG vs. İnce Ayar (Fine-Tuning): Hangisi Daha İyi?

Bir LLM’i özel verilere uyarlarken, geliştiriciler genellikle RAG ile İnce Ayar arasında seçim yaparlar. İşte karşılaştırması:

6. Gelişmiş RAG Teknikleri

Temel RAG’ı oluşturmak kolaydır, ancak üretim düzeyinde RAG, karmaşık sorguları işlemek için gelişmiş teknikler gerektirir:

• Sorgu Yeniden Yazma: Vektör arama doğruluğunu artırmak için kullanıcının sorgusunu yeniden ifade etmek.
• Yeniden Sıralama (Re-ranking): Getirilen belgeleri yeniden değerlendirmek ve en ilgililerin ilk sırada yer almasını sağlamak için ikincil bir model (cross-encoder gibi) kullanmak.
• Hibrit Arama: Hem tam eşleşmeleri hem de anlamsal anlamları yakalamak için anahtar kelime araması (BM25) ile vektör aramayı birleştirmek.
• Hiyerarşik Bölme: Hassas arama için küçük parçaları saklamak ancak LLM’e daha geniş bağlam sağlamak için bunları daha büyük üst parçalara bağlamak.

Sonuç

RAG, üretim yapay zeka uygulamaları oluşturmak için endüstri standardı haline gelmiştir. LLM’leri gerçek dünya bilgisiyle temellendirerek, statik model ağırlıkları ile dinamik, alana özgü veriler arasındaki boşluğu doldurur. İster şirket içi bir wiki asistanı ister otomatik bir müşteri destek botu oluşturuyor olun, RAG modelleri yapay zekanızın doğru, güncel ve güvenli kalmasını sağlar.

Ghaznix Blog’unda daha fazla yapay zeka analizi keşfedin →