Kobi Kredi

Dil modeli maliyetleri token bazlıdır ve kullanıcı için opak kalır: bir sorunun kaç token tükettiğini kimse önceden bilmez. Kobi Kredi bu değişkenliği tek bir birime indirger ve tüketimi görünür kılar.

İki temel ölçüm noktası vardır. Doküman yükleme sabit maliyetlidir; bir AI mesajı ise asgari bir eşikten başlar ve gerçek token tüketimine göre hesaplanır. Çıkış tokenleri girişe göre daha ağır ağırlıklandırılır çünkü sağlayıcı fiyatlandırması da öyledir.

Sonuç tek ondalık basamağa yuvarlanır. Bu, kullanıcının bakiyesini okunabilir tutar ve kuruş düzeyinde takip yükünü ortadan kaldırır.

Her plan aylık bir Kobi kotası tanımlar. Kota, kullanıcı sayısından bağımsızdır; az sayıda yoğun kullanıcısı olan bir ekip ile çok sayıda seyrek kullanıcısı olan bir ekip aynı kotayı farklı hızda tüketir.

Bu, koltuk başı fiyatlandırmadan yapısal olarak farklı bir maliyet eğrisi üretir. Kadro geniş ama kullanım seyrekse Kobi Kredi modeli avantajlıdır; kadro dar ama kullanım çok yoğunsa denge değişir.

Plan seçimini teorik hesapla değil pilot ölçümüyle yapmak bu yüzden önemlidir. İki haftalık gerçek kullanım, herhangi bir tahmin tablosundan daha güvenilir sonuç verir.

Tüketimi etkileyen dört değişken vardır: getirilen pasaj sayısı, pasaj uzunluğu, üretilen yanıtın uzunluğu ve sohbet geçmişinin bağlama eklenmesi. İlk ikisi kapsam ve parçalama ile, son ikisi kullanım alışkanlığıyla ilgilidir.

En etkili tasarruf kalemi genelde kapsam daraltmaktır. Gereğinden geniş bir asistan hem daha fazla pasaj getirir hem isabeti düşürür; daraltmak maliyeti ve kaliteyi aynı anda iyileştirir.

İkinci kalem sohbet uzunluğudur. Yeni konu için yeni sohbet açmak, uzun bir konuşmayı sürdürmekten belirgin biçimde ucuzdur çünkü geçmiş her mesajda yeniden gönderilmez.

Kullanım bazlı bir modelde en sık yaşanan sorun, ayın ortasında beklenmedik bir tüketim artışıdır. Bunun kaynağı genelde tek bir davranış değişikliğidir: yeni bir departmanın devreye girmesi, toplu doküman yüklemesi veya uzun sohbetlerin alışkanlık haline gelmesi.

Bu yüzden tüketimin düzenli izlenmesi kurulumun bir parçası olmalıdır. Aylık kotanın ne kadarının hangi tarihte tüketildiğine bakmak, eğilimi erken gösterir. Ani bir sıçrama görüldüğünde kaynağını bulmak kolaydır; ay sonunda fark edildiğinde ise geriye dönük müdahale şansı kalmaz.

Basit bir eşik uyarısı bu işi görür: kotanın yarısı ayın yarısından önce tükendiğinde bildirim almak, eğilimi zamanında yakalamak için yeterlidir.