Çalışma Zamanında (Run Time) Keras Özel Katmanı (Custom Layer) Algılandı
Genel Bakış
Model kodunun sömürülmesi genelde geleneksel seri döküm anlarında gerçekleşse de, Keras mimarilerinde doğrudan tahminsel analiz işlemleri yürüten "Custom Layer" (Özel Katman) yapıları doğrudan işlenmemiş Python kodlarıyla desteklenir. PAIT-KERAS-301, Eresus Security statik analiz taramaları vasıtasıyla, modelin sistem yüklenme zamanında şüpheli kodu yürütmeyerek bunu tam tahmin isteği (prediction) çağrıldığı ana sakladığını gösterir.
PAIT-KERAS-301 etiketi tanımlı modellerin taşıdığı riskler:
- Dosya
.h5veya modern.kerasmimarisindeki klasik basit "Lambda" katmanlarının ötesine geçerek özgün ve kuralları esnetilmiş "Custom" mimari katmanları kullanır. - İşlenen veride salt matematik denklemlerin yanı sıra belgesiz ve normal dışı ortamsal (environmental) veri çekimi yapan adımlar bulunur ve bunlar tamamen data tahmini sırasındaki kod yollarına gömülüdür.
- Kod bloğu uygulamanın başlatılma vektöründen (PAIT-KERAS-100 uyarı statüsünde bahsedildiği gibi) zararsızca geçse dahi aktif işlem yürütme esnasında tamamen kısıtlamasız Python serbestliğine sahip olur.
Önemli Noktalar
- Modern MLOps pratikleri işlemsel olarak yoğun Python dizelerinin bu tarz özel bloklarda yazılmasını ve dinamik çalışmasını onaylamaz. Saldırgan grupları, cihaz sınırlarını atlatarak doğrudan harici bir zararlı yazılım parçasını aktive edilen standart görevmiş gibi paketler ve makinelere okutur.
- Eresus Sentinel, statik imza araçlarının yakalayamadığı arka plan tahminsel işlem gizlenmelerinin ardındaki işlemsel gariplikleri analiz eder.
Etkisi
Zehirlenmiş algoritmalar yürüten bir arkaplan rutini barındıran katmanlar, geleneksel ağ koruma çözümlerini aşıp yatayda (moderate reconnaissance) keşif yapan yerel ağ virüslerinin tetiklenmesine olanak tanır. Tahmin kodlarının arasına saklanan gizli zararlı döngüler sonraki tüm yapay zeka kararlarında sistemi tehlikeli eylemlere ve kararsızlıklara sürükler.
En İyi Çözüm Pratikleri
- Karmaşık, teyit edilmemiş doğrulamasız Custom dinamik Python dizeleri kullanmak yerine güvenli matematiksel kütüphane fonksiyonlarına yönelttiğiniz varsayılan yapılar seçin.
- Yazılım dizinindeki tüm özel model katmanlarınızı ve mimarilerini, düzenli periyotlarda benzersiz Eresus operasyonel mantık analiz taramasından geçirin.
İyileştirme (Remediation)
Algılandığı ilk an içerisinde prediction çalışma sahalarında anında karantina uygulayın. Bu anormal bileşenlerin doğrudan yerel ağ yapısını görmemesi adına mutlak şekilde izole donanım veya Sandbox uygulamaları kurun. Modeldeki özel tahmin katmanındaki algoritmik ihtiyaçları şüpheli yürütme metotlarından (runtime Python evaluations) temizleyerek yeniden yazmanız çok daha güvenli bir mühendislik eylemidir.