BM25

BM25 bir sorgudaki terimlerin dokümanlarda ne kadar sık ve ne kadar ayırt edici olduğunu hesaplar. Bir kelime belirli bir parçada sık geçiyor, fakat tüm arşivde nadirse o parçanın sıralamadaki ağırlığı artabilir.

Doküman uzunluğu da hesaba katılır. Çok uzun bir dosyada kelimenin tesadüfen geçmesi kısa ve odaklı bir parçadaki yoğun kullanım kadar değerli sayılmaz; bu, basit kelime sayımından daha dengeli bir sıralama sağlar.

BM25; kanun maddesi, ürün kodu, müşteri numarası, dosya adı ve teknik terim gibi tam yazımı önemli olan aramalarda etkilidir. Kullanıcı dokümandaki ifadeyi biliyorsa, kelime sinyali daha açıklayıcı olabilir.

Buna karşılık eş anlamlılar ve farklı diller BM25’nin doğal sınırıdır. İzin ile leave veya tahsilat ile collection aynı kavrama işaret etse bile ortak kelime bulunmayabilir.

KobiGPT’nin arama katmanında seyrek kelime sinyali, yoğun gömme sinyaliyle birlikte değerlendirilebilir. Bu yaklaşım, hem özel isimleri ve kodları korur hem de farklı ifade edilmiş doğal dil sorularının kapsamasını artırır.

Hibrit sonuçta üst sıralama yine bir kanıt değildir. BM25’nin bulduğu parça doğru dosyadan olsa bile sorunun koşulunu karşılamayabilir; kaynak ve güncellik kontrolü yanıt güvenliğinin parçasıdır.

BM25 eski bir yöntem olmasına rağmen belirli sorgu tiplerinde vektör aramasından üstündür. Nadir geçen bir terim, bir ürün kodu veya kanun numarası arandığında kelime tabanlı sıralama tam isabet üretirken anlamsal arama yakın ama yanlış sonuçlara kayabilir.

Bu yüzden modern kurulumlar iki yöntemi rakip değil tamamlayıcı görür. Hangi sorgu tipinin baskın olduğu içeriğe göre değişir; hukuk ve mevzuat arşivlerinde madde numarası aramaları sık olduğu için kelime tabanlı bileşenin ağırlığı genelde artar.

Üçüncü avantajı öngörülebilirliktir. Kelime tabanlı sıralamanın neden bir sonucu döndürdüğü açıklanabilir: aranan terim o belgede geçiyordur. Vektör aramasında aynı soruya verilecek yanıt "vektör uzayında yakındı" olur ve bu, kullanıcıya açıklanması güç bir gerekçedir. Denetim gerektiren ortamlarda bu şeffaflık farkı, isabet oranından bağımsız bir değer taşır ve yöntem seçiminde ayrı bir ölçüt olarak değerlendirilmelidir.