Perde Arkası: hiDAVA'nın RAG Mimarisi ve Retrieval Akışları
Yapay zekâ destekli bir hukuk platformu kurduğunuzda, kullanıcıların gördüğü arama alanı ve sonuçlardır. Yargıtay karar retrieval ailesinde sorgunun arkasında kosinüs benzerliği, metadata alanları ve ilgili metin parçalarının seçimi birlikte çalışır.
Bu yazı, hiDAVA'nın Yargıtay karar retrieval ailesindeki embedding, metin parçalama, Qdrant, HNSW ve metadata adımlarını açıklar. Kaynağa göre retrieval motoru ve metadata alanları değişir. Buradaki teknik akış belge analizi, mevzuat, KVKK ve AİHM akışlarını açıklamaz.
RAG Nedir ve Neden Kritik?
RAG (Retrieval-Augmented Generation), yanıt üretiminden önce sorguyla ilişkili kayıtların retrieval katmanından seçilmesini sağlar. Seçilen kayıtlar model bağlamına eklenebilir; bulunan kayıtların kapsamı ve hukuki uygunluğu ayrıca değerlendirilmelidir.
Genel amaçlı bir dil modeli "mantıklı görünen" bir Yargıtay esas numarası uydurabilir. Retrieval katmanı sorguyla ilişkili kayıtları seçer, atıf doğrulama katmanı karar kimliklerini kaynak kayıtlarıyla karşılaştırır; kaynak kontrolü nihai metin üzerinden yapılmalıdır.
Embedding: Hukuki Kavramları Matematiğe Çevirmek
Bu Yargıtay retrieval ailesinde karar metinleri embedding (gömme) ile 3072 boyutlu vektörlere dönüştürülür.
Neden 3072 Boyut?
Bu ailede Gemini Embedding 001 kullanılır. Model, metinleri semantik aramada kullanılan 3072 boyutlu vektörlere dönüştürür.
Örneğin, "müterafik kusur" ve "birlikte kusur" ifadeleri vektör uzayında anlamsal benzerliklerine göre konumlandırılabilir. Sıralama; modele, sorguya ve kaynak kapsamına göre değişir, bu nedenle bulunan kararların ilgisi kullanıcı tarafından değerlendirilmelidir.
Görev Türü Ayrımı: Sessiz Ama Kritik Bir Optimizasyon
Çoğu RAG implementasyonunun kaçırdığı bir teknik detay: Embedding sırasında görev türünü belirtmek.
Bu retrieval ailesinde iki görev türü kullanılır:
- RETRIEVAL_DOCUMENT: Bir karar metni vektör veritabanına eklenirken, "bu bir belge, aranabilir olsun" diye modele sinyal vermek
- RETRIEVAL_QUERY: Bir avukat arama yaptığında, "bu bir soru, en ilgili belgeleri bul" diye modele sinyal vermek
Bu ayrım, sorgu ile kaynak belgenin modele farklı görev niyetleriyle iletilmesini sağlar. Elde edilen sonuçlar kullanılan modele, retrieval motoruna, kaynak kapsamına ve sorguya göre değişir.
Chunking: Kararları Nasıl Parçalıyoruz?
Bir karar metni, retrieval sırasında aranabilir metin parçalarına ayrılabilir. Parça boyutu, örtüşme ve bölme sınırı kullanılan retrieval motoruna ve kaynak metnin yapısına göre değişir.
| Parametre | Genel davranış |
|---|---|
| Parça boyutu | Kaynak ve retrieval motoruna göre belirlenir |
| Örtüşme | Komşu metin parçaları arasında sınırlı bağlam taşımak için kullanılabilir |
| Bölme noktası | Motorun desteklediği metin ve cümle sınırlarına göre değişebilir |
Bu Neden Önemli?
Komşu parçalar arasında örtüşme kullanılması, sınırda kalan ifadelerin çevresindeki metni retrieval adaylarına taşıyabilir. Bu davranış bağlamın eksiksiz korunduğu anlamına gelmez; kullanıcı, yanıtın dayandığı kaynak metni bütünlüğü içinde incelemelidir.
Yargıtay Retrieval Metadata Alanları
RAG dünyasında yaygın bir yanılgı vardır: "Tüm dokümanları vektör veritabanına at, sistem çalışır." Bu, bir kütüphanedeki tüm kitapları etiket koymadan rastgele bir odaya yığmaktan farksızdır.
Bu ailedeki karar parçaları aşağıdaki metadata alanlarıyla saklanabilir:
| Metadata | Örnek | Arama Etkisi |
|---|---|---|
| Daire | "9. Hukuk Dairesi" | Sorgudaki açık daire bilgisini retrieval adaylarıyla eşleştirme |
| Esas No | "2024/1234" | Bilinen bir kararın tam metnine doğrudan erişim |
| Karar No | "2024/5678" | Atıf doğrulama ve çapraz referans |
| Karar Tarihi | "15.03.2024" | Sorgudaki açık dönem bilgisini retrieval adaylarıyla eşleştirme |
| Konu | "11. Hukuk Dairesi" | Kaynak kaydındaki konu bilgisini taşıma |
| Chunk Index | 0, 1, 2... | Kararın bölümlerini doğru sırada birleştirme |
Metadata ile Bağlamı Daraltma
Metadata stratejisi, sorguyla ilgisiz kayıtların model bağlamına gönderilmesini azaltmayı amaçlar. Daire, tarih dönemi ve karar türü gibi ayrıntılar ayrı sonuç kontrollerinden seçilmez; doğal dil sorgusuna eklenebilir.
Metadata kullanılmadığında semantik arama daha geniş bir aday kümesinde çalışabilir ve model bağlamına ilgisiz parçalar taşınabilir. Sorguda daire, tarih veya karar türü gibi bilgiler bulunduğunda, bu alanları destekleyen retrieval motorları aday kümesini daraltabilir. Filtrelerin uygulanma biçimi ve seçilen parça sayısı kaynağa ve motora göre değişir.
Bu yaklaşımın etkisi sorguya, filtre kapsamına ve bulunan kayıtlara göre değişir.
Yargıtay Retrieval Ailesinde Qdrant ve HNSW
Bu retrieval ailesinde Qdrant kullanılmasının teknik gerekçeleri şunlardır:
| Özellik | Detay |
|---|---|
| Mesafe Metriği | Kosinüs benzerliği, vektörler arasındaki anlamsal yakınlığı sıralamak için kullanılır |
| HNSW İndeksi | Vektörler arasında yaklaşık en yakın komşu araması |
| Disk Tabanlı | Vektör ve indeks saklama yapılandırması, bellek ve disk kullanımını birlikte etkiler |
| Payload Filtreleme | SQL benzeri metadata filtreleri ile vektör aramasının birlikte kullanımı |
Kayıt Yapısı
Karar metinleri uzunluklarına göre birden fazla parçaya ayrılabilir. Vektör veritabanı bu parçaları ve kaynak metadata alanlarını birlikte saklar.
Bu Yargıtay retrieval ailesinde segment optimizasyonu, memmap eşikleri ve indeksleme thread yönetimi yapılandırmanın parçalarıdır.
Duplicate Detection: Aynı Kararı İki Kez Eklememek
Milyonlarca kararı günlük olarak besleyen bir ingestion (veri yükleme) sürecinde, aynı kararın tekrar eklenmesini önlemek hayatidir. Tekrar eden vektörler hem disk maliyetini artırır hem de arama sonuçlarını kirleterek aynı kararın birden fazla kez görünmesine neden olur.
Bu ailede kararlar Qdrant'a eklenmeden önce toplu kontrol (batch-check) mekanizmasından geçer. Önceden işlenmiş olarak tespit edilen kayıtların atlanması, yinelenen API çağrılarını ve embedding maliyetlerini azaltmayı amaçlar.
Sonuç: Retrieval Akışının Sınırları
Bir Yargıtay araştırma sorgusunda bu retrieval ailesinin genel adımları şöyledir:
- Sorgu, RETRIEVAL_QUERY görev türüyle 3072 boyutlu bir vektöre dönüştürülür
- Qdrant'ın HNSW indeksi, vektörler arasında en yakın komşu adaylarını bulur
- Sorgudaki açık daire ve dönem ayrıntıları, desteklenen metadata alanlarında retrieval adaylarını daraltabilir
- Seçilen chunk'lar AI'ın bağlam penceresine yüklenir
- AI, getirilen metin parçaları ve metadata üzerinden bir analiz taslağı üretir; çıktı kaynak kararlarla doğrulanmalıdır
Kaynak izlenebilirliği: Sonuçlar kaynak kaydı ve doğrulama durumuyla birlikte gösterilir; kullanıcı nihai kontrolü kaynaktan yapar. Bağlam seçimi: Metadata stratejisi, sorguyla ilgisiz parçaların bağlama taşınmasını azaltmayı amaçlar.
Bu retrieval adımları, soru ile kaynak kayıtları arasında izlenebilir bir bağ kurmayı amaçlar. Sonucun kapsamı ve ilgisi sorguya, seçilen kaynağa ve retrieval motoruna bağlıdır.
Neden Önemli?
- Avukatlar için: Doğal dille ilgili karar içeriklerini araştırma
- Hukuk büroları için: Doğal dil aramasını mevcut inceleme iş akışında değerlendirme
- Kullanıcı kontrolü için: Sonucu kaynak kaydı ve doğrulama durumuyla karşılaştırma
Teknoloji perde arkasında çalışır; hukuki değerlendirme ve kaynak kontrolü kullanıcıda kalır.
Deneme ve Plan Bilgileri
Yeni hesap kaydı açık olduğunda 7 günlük deneme, toplam 25 sorgu hakkı ile başlar. Güncel kayıt durumunu kayıt sayfasında görebilirsiniz.