Güvenilir platformlar kuruyoruz. Geleceği inşa ediyoruz.

Problem

Güvenlik log olayı akışları tek başına sabit kurallar için fazla gürültülü; ama her şeyi bir analiste göndermek de ölçeklenmiyor.

Yaklaşım

Bir LangGraph supervisor'ı, her olay için LLM'in hangi araçları çağıracağına karar vermesini sağlar — sezgisel puanlama, son girişlerin SQL sorgusu, IP itibarı, web araması — ve sade bir karar üretir; risk yüksekse Slack'e uyarı gönderir.

Problem

Kuyruk güdümlü iş yükleri ya boşta bekler ya da geride kalır; çünkü CPU ve bellek ne kadar iş beklediğini göstermek için zayıf sinyallerdir.

Yaklaşım

AWS SQS ve Kafka için producer ve consumer servisleri ile CPU yoğun bir iş yükü; kuyruk uzunluğuna, consumer gecikmesine ya da CPU yüküne göre ölçeklenen KEDA ScaledObject'leriyle yayına alındı.

Problem

Modelleri elle eğitmek, karşılaştırmak ve yayına almak yavaş ve tekrar üretilmesi zor bir süreç. Ekiplerin eğitim çalışmasından ölçeklenebilir bir inference endpoint'ine tekrarlanabilir bir yola ihtiyacı var.

Yaklaşım

Bir Kubeflow hattı farklı learning rate'lerle birkaç modeli paralel eğitir, en doğru olanı seçer ve MinIO'da saklanan çıktılarla otomatik ölçeklenen bir KServe inference servisi olarak yayına alır.