GGUF Model Template İçinde Rastgele Kod Yürütme Saptandı
Genel Bakış
Makine öğrenimi modelleri geleneksel olarak PyTorch veya başka bir kütüphane ile geliştirilir ve ardından GGUF formatına dönüştürülebilir. GGUF, modellerin hızlı bir şekilde yüklenmesi için optimize edilmiş bir ikili (binary) formattır ve özellikle inference (çıkarım) amaçları için verimlidir.
Büyük dil modellerinde prompt formatlama için sohbet şablonları (chat templates) sıklıkla GGUF metadata'sında barındırılır. Bir Jinja sohbet şablonu korumalı bir alanda (sandbox) işlenmediğinde, keyfi ve rastgele kod yürütülmesine yol açabilecek potansiyel bir güvenlik riski ortaya çıkar.
Modelinizin GGUF-101 hatası vermesi şunları ifade eder:
- Model GGUF formatı kullanılarak serileştirilmiştir.
- Modelin Jinja şablonunda, model yüklenirken yürütülecek potansiyel kötü amaçlı (malicious) kod bulunmaktadır.
Önemli Noktalar
- GGUF modelleri tensorlardan ve standartlaştırılmış metadata setlerinden oluşur.
- GGUF, kullanıcı girdilerini biçimlendirmek için Jinja2 kullanır.
- Yüklenen şablon kodları, GGUF içerisine saklanmış zararlı kodun ana bilgisayar üzerinde çalışmasını tetikleyebilir.
Etkisi
Zafiyet barındıran bir Jinja şablonu şunlara yol açar:
- AWS/Azure kimlikleri ve SSH anahtarlarının sızdırılması.
- Çevre sistemlere sızılması ve backdoor kurulması.
Not: Kötü amaçlı bir Jinja şablonu, modelin doğal cevaplama performansını etkilemeden sessizce çalışabilir. Kullanıcı saldırının gerçekleştiğini fark etmeyebilir.
En İyi Çözüm Pratikleri
- Dışarıdan veya HuggingFace üzerinden indirilen tüm GGUF modellerini Eresus Sentinel sisteminizle taramadan geçirin.
- Modeli üretim (production) ortamına almadan önce sıkı bir sandbox altyapısı kurun.
İyileştirme (Remediation)
GGUF modelleri Jinja gerektiriyorsa, yüklemeyi izole Container ortamlarında sandboxing kuralları çerçevesinde gerçekleştirin. Model tarama aşamasında Eresus Security ihlali alırsanız, ilgili dosyayı derhal sistemden uzaklaştırın.