RAG sistemleri için pratik bir başlangıç

Neden RAG?

LLM'lerin "bilgi kesim tarihi" sorununu çözmenin en pratik yolu RAG. Modeli baştan eğitmek yerine, dış kaynak metinleri runtime'da besliyoruz.

Pipeline'ı kuralım

1. Chunking — Belgeleri 512–1024 token aralığında, anlamı koruyan parçalara böl.
2. Embedding — text-embedding-3-small veya bge-base gibi modeller.
3. Vector store — pgvector veya Qdrant; ölçek ihtiyacına göre.
4. Retrieval + Reranking — Top-K çek, ardından cross-encoder ile yeniden sırala.
5. Generation — Bağlamı prompt'a ekle, modeli çağır.

Doğrulama

Üretilen yanıtların kaynak gösterdiğinden emin ol. Bizim sürümümüzde her cümle bir <doc-id> ile etiketleniyor — UI'da hover'da kaynak metin görünüyor.