RAG sistemleri için pratik bir başlangıç

Neden RAG?

LLM'lerin "bilgi kesim tarihi" sorununu çözmenin en pratik yolu RAG. Modeli baştan eğitmek yerine, dış kaynak metinleri runtime'da besliyoruz.

Pipeline'ı kuralım

Chunking — Belgeleri 512–1024 token aralığında, anlamı koruyan parçalara böl.
Embedding — text-embedding-3-small veya bge-base gibi modeller.
Vector store — pgvector veya Qdrant; ölçek ihtiyacına göre.
Retrieval + Reranking — Top-K çek, ardından cross-encoder ile yeniden sırala.
Generation — Bağlamı prompt'a ekle, modeli çağır.

Doğrulama

Üretilen yanıtların kaynak gösterdiğinden emin ol. Bizim sürümümüzde her cümle bir <doc-id> ile etiketleniyor — UI'da hover'da kaynak metin görünüyor.

Neden RAG?

LLM'lerin "bilgi kesim tarihi" sorununu çözmenin en pratik yolu RAG. Modeli baştan eğitmek yerine, dış kaynak metinleri runtime'da besliyoruz.

Pipeline'ı kuralım

Chunking — Belgeleri 512–1024 token aralığında, anlamı koruyan parçalara böl.
Embedding — text-embedding-3-small veya bge-base gibi modeller.
Vector store — pgvector veya Qdrant; ölçek ihtiyacına göre.
Retrieval + Reranking — Top-K çek, ardından cross-encoder ile yeniden sırala.
Generation — Bağlamı prompt'a ekle, modeli çağır.

Doğrulama

Üretilen yanıtların kaynak gösterdiğinden emin ol. Bizim sürümümüzde her cümle bir <doc-id> ile etiketleniyor — UI'da hover'da kaynak metin görünüyor.