On-premise

İki terim sık karıştırılır. Self-hosted, yazılımın sizin kontrolünüzdeki bir altyapıda çalışması anlamına gelir; bu altyapı bir bulut sağlayıcıda kiraladığınız sunucular da olabilir.

On-premise ise daha dardır: yazılım fiziksel olarak kurumun kendi ağı içinde, kendi donanımında çalışır. Dış ağ erişimi kısıtlı veya hiç yok olabilir.

Ayrım pratikte önemlidir çünkü gereksinimler farklıdır. Self-hosted çoğu zaman veri yerleşimi için yeterlidir; on-premise ise genelde ağ izolasyonu gereksiniminden doğar.

Dış ağa erişimi olmayan bir kurulumda model çağrıları bir sorun haline gelir. Bulut tabanlı bir dil modeli kullanılamaz; ya kurum içinde çalışan bir model gerekir ya da kontrollü bir çıkış yolu tanımlanmalıdır.

Gömme tarafında aynı kısıt geçerlidir. KobiGPT’de gömme işlemi, aynı çok dilli model kendi altyapınızda çalıştırılarak dış bağımlılık olmadan yapılabilir.

Bu kısıtlar ürün davranışını değiştirmez ama kurulum karmaşıklığını belirgin biçimde artırır ve altyapı tarafında ciddi bir kapasite planlaması gerektirir.

On-premise kararı, ağ izolasyonu gerçekten zorunlu olduğunda doğrudur. Sözleşme veya mevzuat dış ağ erişimini yasaklıyorsa başka seçenek yoktur.

Buna karşılık gereksinim yalnızca veri yerleşimiyse, self-hosted kurulum çoğu zaman aynı korumayı çok daha düşük işletme maliyetiyle sağlar. İki seçeneği aynı kefeye koymak gereksiz maliyet doğurur.

Değerlendirmede model erişimi sorusunu erken sorun: modeli nereden çağıracaksınız? Bu tek soru, on-premise kurulumun uygulanabilirliğini çoğu zaman baştan belirler.

Ağ izolasyonu olan kurulumların en sık karşılaştığı sorun sürüm eskimesidir. Güncelleme manuel yapıldığı ve kesinti gerektirdiği için ertelenir; birkaç yıl içinde sistem birçok sürüm geride kalır.

Bu, güvenlik açısından doğrudan risk yaratır: yayınlanmış açıklar kapatılmamış olur. Bu yüzden on-premise kararı alınırken güncelleme takvimi de kararın parçası olmalıdır. Yılda kaç kez güncellenecek, kesinti penceresi ne olacak ve bu işi kim yapacak sorularının yanıtı baştan belirlenmezse teknik borç sessizce birikir.

Pratik bir kural, güncelleme penceresini baştan takvime yazmaktır. Planlanmamış bir bakım her zaman ertelenir; takvimde yeri olan bir bakım ise genelde yapılır.

Üçüncü öneri, güncelleme sonrası doğrulama adımlarını yazılı bir kontrol listesine bağlamaktır; böylece işi kim yaparsa yapsın aynı kontroller uygulanır ve atlanan bir adım sessiz bir arızaya dönüşmez.