Bağlam penceresi
Modelin tek istekte okuyup yanıt üretirken taşıyabildiği toplam token kapasitesi.
Özet
Modelin tek istekte okuyabildiği maksimum token.
Hızlı bilgiler
- Kategori
- AI ve bilgi yönetimi
- Ürün
- KobiGPT RAG
- İlgili
- Karşılaştırma ve araçlar
- Dil
- TR ve EN
Neden KobiGPT?
- Satın alma öncesi ortak dil oluşturun.
- Kavramları KobiGPT özelliklerine bağlayın.
- Hukuk ve BT ile paylaşın.
- Kullanım alanlarına geçin.
Ürün verileri
- Ücretsiz plan
- 100 doküman · 2 departman · 120 Kobi/ay(PLAN_CONFIG)
- Starter
- 1000 doküman · 5 departman · 1000 Kobi/ay(PLAN_CONFIG)
- Pro
- 12500 doküman · 25 departman · 12500 Kobi/ay(PLAN_CONFIG)
- Attachment estimate
- PDF, görsel, ses ve metin ekleri için tür bazlı tahmin(packages/types/src/plan-config.ts → estimateAttachmentKobi)
Bağlam penceresi neyi sınırlar?
Bağlam penceresi, bir istekte modele verilebilen toplam metin alanıdır. Kullanıcının sorusu, sistem talimatı, sohbet geçmişi, getirilen kaynak parçaları ve model yanıtı bu bütçenin farklı tüketicileridir.
Pencere dolduğunda sistemin daha fazla metin ekleyememesi gerekir. Bir dokümanın tamamını her soruda göndermek yerine ilgili parçaları getirmek, hem aramayı hem de yanıt üretimini daha yönetilebilir kılar.
RAG neden yardımcı olur?
RAG, büyük bir doküman arşivini tek bağlama sıkıştırmaya çalışmaz. Soruya yakın parçaları seçer ve yalnızca bunları modele taşır; böylece 80 sayfalık bir prosedürün tamamı yerine ilgili maddeler işlenir.
Bu seçim kusursuz değildir. Yanlış parçalar getirilirse pencere ilgili bilgi yerine gürültüyle dolar; kaynak gösterimi ve bağlamda yok davranışı bu sınırı yönetmek için önemlidir.
Doküman hazırlama etkisi
Başlıklar, numaralı maddeler ve kısa bölümler parçalama sınırlarını anlamlı hale getirir. Çok uzun tabloları veya birbirinden bağımsız konuları tek dosyada yığmak, doğru parçanın seçilmesini zorlaştırabilir.
Kullanıcı tarafında en iyi yaklaşım, soruyu belirli bir asistanın kapsamına yöneltmek ve gerektiğinde ilgili dokümanı açıkça belirtmektir. Kapasiteyi artırmak, kötü kapsam ve güncel olmayan dosya sorunlarını tek başına çözmez.
Bağlam penceresi büyürken değişen ve değişmeyen
Bağlam pencerelerinin büyümesi, getirme adımını gereksiz kılmaz; getirmenin hata payını affeder. Geniş pencerede biraz fazla pasaj göndermek sorun yaratmaz, dar pencerede aynı hata yanıtı bozar. Yani büyük pencere bir güvenlik payıdır, bir mimari çözüm değil.
Değişmeyen iki şey vardır: her mesajda gönderilen bağlam ücretlendirilir ve ilgisiz metin arttıkça modelin doğru pasajı ağırlıklandırması zorlaşır. Bu ikisi nedeniyle, pencere ne kadar büyürse büyüsün, yalnızca ilgili pasajı göndermek hem daha ucuz hem daha isabetli kalır.
Üçüncü ve en belirleyici fark erişim kontrolüdür. Tüm arşivi bağlama koymak, o bağlamı gören herkesin arşivin tamamını görmesi demektir. Departman bazlı kapsam ayrımı ve rol tabanlı erişim gerektiren bir kurumda bu yaklaşım pencere ne kadar büyürse büyüsün kullanılamaz. Getirme katmanı burada yalnızca bir maliyet optimizasyonu değil, yetkilendirmenin uygulandığı yerdir; bu yüzden bağlam penceresi tartışmasından bağımsız olarak gereklidir.
FAQ
Pratikte ne anlama gelir?
Modelin tek istekte okuyabildiği maksimum token.
KobiGPT kullanıyor mu?
Uygulama için ürün sayfalarına bakın.
Daha fazla okuma?
Blog ve SSS.
Sorumluluk?
Eğitim amaçlı; uyum kararları için doğrulayın.
Bağlam penceresi doküman limitinin aynısı mı?
Hayır. Doküman limiti plan kapsamıdır; bağlam penceresi tek model isteğinde işlenen token kapasitesidir.
Daha büyük pencere her zaman daha iyi midir?
Hayır. Gereksiz içerik dikkati dağıtabilir; ilgili ve iyi yapılandırılmış kaynak parçaları daha değerlidir.
Karşılaştırma
| Özellik | KobiGPT | Alternatif |
|---|---|---|
| KOBİ | Evet | Yok |
| Kaynak | RAG ile | Yok |
| Sözlük | Genişliyor | Yok |
| Araçlar | İnteraktif | Yok |