Token
Dil modelinin metni işlerken kullandığı alt birim; bağlam kapasitesi ve kullanım maliyeti bununla ölçülür.
Özet
LLM API’lerinde faturalanan alt kelime birimi.
Hızlı bilgiler
- Kategori
- AI ve bilgi yönetimi
- Ürün
- KobiGPT RAG
- İlgili
- Karşılaştırma ve araçlar
- Dil
- TR ve EN
Neden KobiGPT?
- Satın alma öncesi ortak dil oluşturun.
- Kavramları KobiGPT özelliklerine bağlayın.
- Hukuk ve BT ile paylaşın.
- Kullanım alanlarına geçin.
Ürün verileri
- Ücretsiz plan
- 100 doküman · 2 departman · 120 Kobi/ay(PLAN_CONFIG)
- Starter
- 1000 doküman · 5 departman · 1000 Kobi/ay(PLAN_CONFIG)
- Pro
- 12500 doküman · 25 departman · 12500 Kobi/ay(PLAN_CONFIG)
- Minimum billable turn
- 0.1(packages/types/src/plan-config.ts → KOBI_MIN_TURN; packages/types/src/kobi-billing.ts → finalizeTurnKobi)
Token tam olarak nedir?
Token, modelin doğrudan kelime yerine işlediği metin parçasıdır. Bir kelime tek token olabilir; uzun veya nadir bir kelime birkaç parçaya, noktalama ve boşluklar da ayrı birimlere bölünebilir. Sayı, modele ve dile göre değişir.
Bu nedenle karakter sayısı ile token sayısı aynı değildir. Bir sohbet isteğinde soru, getirilen doküman parçaları ve modelin ürettiği yanıt birlikte bağlamı oluşturur; uzun kaynaklar tüketimi ve bağlam ihtiyacını artırır.
Kobi Kredi ile bağlantısı
KobiGPT’de kullanım, dış AI ve platform maliyetlerini ölçmek için Kobi Kredi birimiyle izlenir. Gemini giriş ve çıkış tokenları ağırlıklı bir hesaba girer; çıktı tokenları girişten farklı ağırlıkla değerlendirilebilir.
Kredi hesabı tek bir sabit fiyat sözü değildir. Model fiyatlandırması ve hesaplama fonksiyonları merkezi kaynaklardan gelir; kullanıcı arayüzündeki tahmin ile tamamlanmış turdaki gerçek kullanım aynı olmak zorunda değildir.
Kullanıcı için pratik öneri
Soruya gereksiz dosya eklememek, güncel ve dar bir asistan kapsamı seçmek ve uzun belgeleri mantıklı bölümlere ayırmak bağlamı verimli kullanır. Daha çok token her zaman daha iyi yanıt demek değildir; gürültü, isabeti düşürebilir.
Bir maliyet karşılaştırmasında kullanılan model, giriş-çıkış tokenları ve yuvarlama kuralı açıkça sorulmalıdır. Kobi Kredi’nin minimum tur eşiği ve model bazlı ücretleri için uygulamadaki merkezi tanımlara bakın.
Token tüketimini öngörülebilir kılmak
Token tüketimi üç değişkene bağlıdır: soruya getirilen pasaj sayısı, pasajların uzunluğu ve üretilen yanıtın uzunluğu. Bunlardan ilk ikisi kapsam ve parçalama ayarlarıyla, üçüncüsü sistem talimatıyla etkilenir. Uzun yanıtlar isteyen bir talimat, maliyeti fark edilmeden büyütür.
Kobi Kredi mekaniği bu değişkenliği tek bir birime indirger ve çıkış tokenlerini daha ağır ağırlıklandırır. Maliyet tahmini yaparken pilot dönemdeki gerçek tüketimi ölçmek, teorik hesap yapmaktan çok daha güvenilir sonuç verir.
Dördüncü ve sık gözden kaçan değişken sohbet geçmişidir. Uzun bir konuşmada önceki mesajlar da bağlama eklenirse her yeni soru giderek pahalılaşır. Kullanıcıların uzun sohbetler yerine yeni konu için yeni sohbet açması, tüketimi fark edilir ölçüde düşürür. Pilot dönemde tüketimi ölçerken bu davranışın da kaydedilmesi gerekir; aksi halde gerçek kullanımda maliyet tahminin üzerine çıkabilir.
FAQ
Pratikte ne anlama gelir?
LLM API’lerinde faturalanan alt kelime birimi.
KobiGPT kullanıyor mu?
Uygulama için ürün sayfalarına bakın.
Daha fazla okuma?
Blog ve SSS.
Sorumluluk?
Eğitim amaçlı; uyum kararları için doğrulayın.
Bir kelime her zaman bir token mıdır?
Hayır. Tokenizasyon modele ve dile bağlıdır; bir kelime tek parça olabilir veya birkaç tokena bölünebilir.
Token sayısını azaltmak yanıtı her zaman iyileştirir mi?
Hayır. Gereksiz metni azaltır, fakat gerekli koşulları ve kaynak pasajını kesmek yanıtı eksik bırakabilir.
Karşılaştırma
| Özellik | KobiGPT | Alternatif |
|---|---|---|
| KOBİ | Evet | Yok |
| Kaynak | RAG ile | Yok |
| Sözlük | Genişliyor | Yok |
| Araçlar | İnteraktif | Yok |