Üretim ortamında birden çok aday modelin aynı trafiğe hizmet ettiği senaryolarda, statik bir kazanan seçmek yerine sürekli öğrenen bir yönlendirici tercih edilir. Casibom Routing Engine, çok kollu haydut (multi-armed bandit) yaklaşımını kullanarak her istek için hangi model sürümünün çağrılacağını çevrimiçi olarak belirler. Böylece keşif ve sömürü dengesi, çevrimdışı bir A/B testinin haftalar süren bekleme maliyeti olmadan, canlı ödül sinyalleriyle sürekli güncellenir.
Çok Kollu Haydut Stratejisinde Keşif ve Sömürü Dengesi
Her aday model bir "kol" olarak modellenir ve her kolun beklenen ödülü, gözlemlenen dönüşüm ya da isabet metriğiyle güncellenir. Epsilon-greedy yaklaşımı basit olsa da sabit keşif oranı nedeniyle regret biriktirir; bu yüzden kararlı üretim akışlarında Thompson Sampling ve UCB (Upper Confidence Bound) tercih edilir. Casibom Routing Engine, kol başına Beta dağılımı tutar ve her istekte dağılımdan örnekleme yaparak istatistiksel olarak en umut verici modeli seçer.
- Sömürü: kısa vadede en iyi ölçülen modele daha çok trafik yönlendirilir.
- Keşif: belirsizliği yüksek kollara, bilgi kazancı için kontrollü pay ayrılır.
- Soğuk başlangıç: yeni sürümlere geniş öncül (prior) verilerek adil değerlendirme sağlanır.
Casibom Giriş Akışı ve Model Yönlendirme Matrisi
Yönlendirme kararı, kimlik ve bağlam katmanının ürettiği özellik vektörüyle zenginleştirilir. Casibom giriş akışında her oturum, coğrafya ve cihaz sınıfı gibi bağlamsal değişkenlerle etiketlenir; bu sayede contextual bandit, segment bazında farklı modelleri tercih edebilir. Yönlendirme matrisi, kol kimliğini model sürümüne eşler ve karar denetim kuyruğuna audit.serve.casibom topic'i üzerinden yazılır. Böylece hangi isteğin hangi modele gittiği geriye dönük olarak izlenebilir kalır.
Casibom Konsoluna Güncel Erişim ve Trafik Bölümlemesi
Operasyon ekibi, Casibom konsoluna güncel erişim panelinden kol ağırlıklarını izler ve gerektiğinde manuel bir tavan koyar. Trafik bölümlemesi, kanary sürümlerin toplam trafiğin küçük bir oranıyla sınırlanmasını sağlar; ödül sinyali eşiği aşıldığında yönlendirici otomatik olarak payı artırır. İç servis çağrıları gateway.internal üzerinden yapılır ve ölçüm verileri cluster.local içindeki toplama servisine akar.
Regret İzleme
Kümülatif regret, seçilen kol ile teorik en iyi kol arasındaki ödül farkının toplamıdır. Düşük ve düzleşen bir regret eğrisi, yönlendiricinin sağlıklı yakınsadığını gösterir.
Thompson Sampling ile Ödül Tahmini ve Regret Analizi
Thompson Sampling, her kol için posterior dağılımdan örnekleme yaparak doğal bir keşif davranışı üretir. Ödül gecikmeli geldiğinde (örneğin dönüşüm birkaç dakika sonra ölçüldüğünde) atama ile ödül arasındaki bağ, istek kimliğiyle eşlenerek korunur. Bu gecikmeli geri besleme, dağılım güncellemelerinin tutarlı kalması için idempotent biçimde işlenir; aynı ödül iki kez sayılmaz.
Casibom 2026 Sürümünde Gözlemlenebilirlik ve Operasyon
Casibom Routing Engine'in 2026 hattı, kol başına isabet oranı, örnekleme gecikmesi ve posterior varyansı metriklerini tek gösterge panelinde birleştirir. Model sürümü geri alındığında yönlendirici ilgili kolu anında dışlar ve trafiği kalan sağlıklı kollara yeniden dağıtır. Kararlı bir erişim yüzeyi için sağlık kontrolleri, örnekleme adımının önüne bir devre kesici olarak yerleştirilir; böylece bozuk bir model kolu tüm akışı yavaşlatmaz.