Anomaly Detection'ın benimsenmesi artmaya devam ettikce, ardışık duzenin ayrı ayrı parcalarını optimize etmenin artık yeterli olmadığı ortaya cıktı: platformumuzun da olceklenmesi gerekiyordu. Ancak, ortaya cıktığı uzere, olceklendirme, daha fazla kaynak talep etmek ve talebi karşılamayan hizmetin daha fazla kopyasını calıştırmak kadar basit değildir. Genişledikce, ClickHouse gibi harici (paylaşılan!) Bağımlılıklara yerleştirdiğimiz yuk miktarı arttı. Quicksilver'a guncellemeleri gonderme şeklimiz, iki sistemi birbirine şişirilmiş ve guvenilmez bir şekilde birleştirdi.

Bu nedenle, daha azıyla daha fazlasını yapmak icin yola cıktık - daha dayanıklı bir sistem inşa etmek ve bu aynı zamanda Cloudflare'nin paylaşılan kaynaklarının daha iyi bir koruyucusu olacak.

Mikro hizmet tabanlı mimari fikri yeni bir fikir değildi; Aslında, erken Anomali Tespiti tasarımları bile boyle bir geciş icin nihai ihtiyacı ortaya koydu. Ancak gercek dunya gozlemleri, yeniden tasarımın artık zaman yatırımına tamamen değdiğini gosterdi.

Neden mikro hizmetlere gecmenin olceklenebilirlik sorunlarımızı cozmemize yardımcı olacağını duşunduk?

İlk olarak, ClickHouse uzerindeki yukumuze buyuk bir katkının tekrarlanan temel toplama işlemi olduğunu gozlemledik. Monolitik Anomali Algılama hizmetinin her bir kopyası, temel profillerin kendi kopyalarını hesapladığından, hizmet dağıtımımızı yatay olarak her olceklendirdiğimizde ClickHouse uzerindeki baskımız artacaktır. Dahası, bu calışma esasen kopyalanmıştı. Her bir eşlemenin aynı temelin kopyalarını yeniden hesaplaması icin hicbir neden yoktu. Bu calışmanın ozel bir temel hizmete taşınması, bu ozel işlemden kaynaklanan yukte 10 kat azalma sağlayacak şekilde coğaltmayı ortadan kaldırır.

İkinci olarak, kullanım durumumuzun bir kısmının (Kafka'dan veri akışını kabul edin, basit donuşumler uygulayın ve bu verilerin toplu işlerini ClickHouse'a surdurun) Cloudflare'da oldukca yaygın olduğunu fark ettik. Tam olarak bu calışma modeline sahip mikro hizmetleri başlatmak icin sağlam, savaşta test edilmiş yerleştirici kodu zaten vardı. Bu kodu ihtiyaclarımıza uyacak şekilde uyarlamak, yalnızca geliştirme suresinden tasarruf etmemizi sağlamakla kalmadı, bizi daha geniş bir geleneğe daha uygun hale getirdi.

Tasarım sırasında somut detayların onemini de oğrendik. Başlangıcta Anormallik Algılama platformunun yeniden tasarımı uzerinde calışmaya başladığımızda, Kafka'nın bazı hizmetlerimizi birbirine bağlamada oynayabileceği bir rol olabileceğini hissettik. Yine de, zaten sahip olduğumuz RESTful arayuzlerinden uzaklaşmak icin gereken ilk yatırımı tam olarak haklı cıkaramadık.

Kafka'yı kullanmanın faydaları, ancak ClickHouse'u aykırı puan verilerimiz icin depolama cozumu olarak kullanmayı taahhut ettiğimizde net ve somut hale geldi. ClickHouse, veriler cok fazla dahili ek yuk oluşturan hızlı, kucuk işlemler yerine daha buyuk, daha seyrek gruplar halinde eklendiğinde en iyi performansı gosterir. Kafka aracılığıyla aykırı değer puanlarının taşınması, gecici kesinti sureleri sırasında veri kaybına karşı direncli olurken guncellemeleri toplu olarak işlememize olanak tanıdı.