Kural Rehberi
Sentinel kuralları model dosyası, istem, ajan, konteyner, arşiv, gizli bilgi ve tedarik zinciri risklerini aranabilir kategorilere ayırır.
Kategoriler
- Pickle — Güvensiz Python pickle akışlarını, joblib dosyalarını ve ML model dosyalarının içine gömülü pickle yük’larını tespit eder.
- PyTorch — Güvensiz PyTorch checkpoint yükleme, TorchScript özel operatör ve dinamik hub içe aktarma akışlarını tespit eder.
- ONNX — Riskli ONNX grafik üst verisini, harici tensor yollarını ve özel operatör kullanımını tespit eder.
- Safetensors — Safetensors başlıklarında, tensor üst verisinde ve dosya bütünlüğü kontrollerinde riskli örüntüleri tespit eder.
- GGUF — GGUF model üst verisi, quantization bilgisi ve tensor alanlarında güvenlik ve kaynak tüketimi risklerini kontrol eder.
- Ağ — Model, ajan veya çalışma zamanı bileşenlerinde beklenmeyen ağ erişimi ve dış bağlantı izlerini tespit eder.
- Semboller — Model ve binary dosyalarda riskli sembol, fonksiyon adı ve yerel çağrı izlerini bulur.
- JIT — JIT derleme, dinamik kod üretimi ve çalışma zamanı içe aktarma akışlarında riskli davranışları tespit eder.
- CVE — AI/ML bağımlılıklarında, çalışma zamanı bileşenlerinde ve model araç zincirlerinde bilinen zafiyetleri eşleştirir.
- OCI — Konteyner imajı katmanları, manifest dosyaları ve çalışma zamanı izinlerinde AI iş yüklerine özel riskleri tespit eder.
- 7z — 7z arşivlerinde yol kaçışı, yüksek açılma oranı ve gömülü model yükü risklerini tespit eder.
- Manifest — Model, ajan ve MCP manifest dosyalarında izin, kaynak, sürüm ve bütünlük sorunlarını kontrol eder.
- Jinja2 — İstem ve uygulama şablonlarında sunucu tarafı şablon enjeksiyonu ve güvensiz değişken kullanımını tespit eder.
- Sıkıştırılmış dosyalar — Sıkıştırılmış model paketlerinde açılma oranı, iç içe arşiv ve gizli yük risklerini kontrol eder.
- RAR — RAR arşivlerinde yol kaçışı, şifreli içerik, yüksek açılma oranı ve gömülü yük risklerini tespit eder.
- Gizli bilgiler — Model paketleri, istem örnekleri, veri kümesi açıklamaları ve kod içinde token, API anahtarı, özel anahtar ve kişisel veri izlerini tespit eder.
- Boyut sınırları — Güvenli tarama ve çalışma zamanı sınırlarını aşan dosya, arşiv veya tensor üst verisini raporlar.
Hangi kural ailesinden başlamalı?
AI güvenliği ilk kez kuruluyorsa sırayı basit tutun: önce Gizli bilgiler ve Pickle/Torch gibi doğrudan üretim riski taşıyan bulgular, sonra Manifest/Ağ gibi ajan ve MCP sınırları, en son Boyut sınırları ve üst veri hijyeni.
ÖNERİLEN BAŞLANGIÇ
- Model veya HuggingFace deposu indiriyorsanız: PICKLE, TORCH, SAFETENSORS, GGUF.
- LLM ajanı veya MCP kullanıyorsanız: MANIFEST, Ağ, Jinja2, Gizli bilgiler.
- CI/CD yayın kapısı kuruyorsanız: CVE, OCI, Sıkıştırılmış dosyalar, Boyut sınırları.
Kural dizini
| Kural kimliği | Kategori | Öncelik | Başlık | CWE | Düzeltme ipucu |
|---|---|---|---|---|---|
| PICKLE-EXEC | PICKLE | CRITICAL | Tehlikeli Pickle Çalıştırması | CWE-502 | Güvenilmeyen pickle dosyalarını yüklemeyin. Dosyayı kod çalıştırmayan bir biçime dönüştürün. |
| PICKLE-GLOBAL-IMPORT | PICKLE | HIGH | Beklenmeyen Global İçe Aktarma | CWE-502CWE-829 | İzin verilen global nesneleri kısıtlayın ve imzalı model dosyası şartı koyun. |
| PICKLE-STRUCT | PICKLE | HIGH | Pickle Opcode Yapısal Oynama | CWE-915 | Yapısal olarak olağandışı pickle dosyalarını kabul aşamasında reddedin. |
| TORCH-LOAD-UNTRUSTED | TORCH | CRITICAL | Güvenilmeyen torch.load Seri Dışılaştırması | CWE-502 | Çalıştırılabilir Python nesnesi değil, tensor yükleyin. |
| TORCH-SCRIPT-CUSTOM-OP | TORCH | HIGH | TorchScript Özel Operatörü | CWE-94CWE-829 | Özel operatörleri yayına almadan önce inceleyin ve imzalayın. |
| TORCH-HUB-DYNAMIC-IMPORT | TORCH | MEDIUM | Dinamik Torch Hub İçe Aktarma | CWE-829CWE-494 | Uzak hub çalıştırmasını sabitlenmiş ve depoya alınmış model koduyla değiştirin. |
| ONNX-EXTERNAL-DATA-PATH | ONNX | HIGH | Harici Veri Yolu Kaçışı | CWE-22 | Model paketinin dışına çıkan harici veri yollarını reddedin. |
| ONNX-CUSTOM-OP | ONNX | HIGH | ONNX Özel Operatörü | CWE-94CWE-829 | Özel operatörleri açıkça onaylayın veya grafikten kaldırın. |
| ONNX-METADATA-TAMPER | ONNX | MEDIUM | Şüpheli ONNX Üst Verisi | CWE-345 | Kaynak bilgisini tamamlayın ve model yayını imzalayın. |
| SAFETENSORS-HEADER-OVERFLOW | SAFETENSORS | HIGH | Aşırı Büyük Safetensors Başlığı | CWE-400CWE-770 | Safetensors başlıklarını küçük ve öngörülebilir tutun. |
| SAFETENSORS-DTYPE-SHAPE-MISMATCH | SAFETENSORS | MEDIUM | Tensor Şekli ve Bayt Aralığı Uyumsuzluğu | CWE-20 | Tensor bayt aralıklarını yüklemeden önce doğrulayın. |
| SAFETENSORS-MISSING-HASH | SAFETENSORS | LOW | Eksik Safetensors Bütünlük Hash’i | CWE-345 | Safetensors dosyalarını hashleyin ve imzalayın. |
| GGUF-METADATA-OVERFLOW | GGUF | HIGH | GGUF Üst Veri Taşma Örüntüsü | CWE-190CWE-787 | Bozuk GGUF üst verisi taşıyan dosyaları yüklemeyin. |
| GGUF-JINJA-TEMPLATE | GGUF | HIGH | Güvensiz GGUF Sohbet Şablonu | CWE-94 | Tokenizer şablonlarını kullanmadan önce inceleyin. |
| GGUF-UNTRUSTED-QUANT | GGUF | MEDIUM | Güvenilmeyen Quantized Model | CWE-345 | Quantized modelleri kaynak bilgisi olan yayın dosyaları gibi yönetin. |
| NET-METADATA-ENDPOINT | NET | HIGH | Bulut Üst Veri Uç Noktasına Erişim | CWE-918 | Model ve ajan çalışma zamanı ortamlarından üst veri servisi erişimini kapatın. |
| NET-PRIVATE-RANGE-EGRESS | NET | MEDIUM | Özel Ağ Aralığına Çıkış | CWE-200 | Ajan ağ erişimini onaylı hostlarla sınırlandırın. |
| NET-UNPINNED-MODEL-URL | NET | MEDIUM | Sabitlenmemiş Uzak Model URL’i | CWE-494 | Yalnızca hash ile doğrulanmış model dosyalarını indirin. |
| SYM-DANGEROUS-EXPORT | SYM | HIGH | Tehlikeli Yerel Dışa Aktarım | CWE-749 | Tehlikeli dışa aktarım taşıyan yerel eklentileri açık onay yoksa engelleyin. |
| SYM-NATIVE-LOAD-HOOK | SYM | HIGH | Güvensiz Yerel Yükleme Kancası | CWE-829 | Yerel yükleyici yollarını imzalı dosyalara sabitleyin. |
| SYM-UNRESOLVED-ENTRYPOINT | SYM | LOW | Çözümlenemeyen Yerel Giriş Noktası | CWE-477 | Yerel çalışma zamanı ABI ve eklenti sürümlerini uyumlu tutun. |
| JIT-EVAL-COMPILE | JIT | HIGH | Dinamik eval veya compile Kullanımı | CWE-95 | Kullanıcı kontrollü metinleri derlemeyin. |
| JIT-DYNAMIC-KERNEL | JIT | HIGH | Dinamik Kernel Üretimi | CWE-94 | Kernel kodunu çalışma zamanı verisinden ayırın. |
| JIT-CACHE-POISONING | JIT | MEDIUM | Yazılabilir JIT Önbelleği | CWE-345 | Derlenmiş önbellekleri güvenilmeyen yazmalardan koruyun. |
| CVE-KNOWN-EXPLOITED | CVE | CRITICAL | Bilinen İstismar Edilen Zafiyet | CWE-1104 | Yayından önce düzeltilmiş sürüme yükseltin. |
| CVE-VULNERABLE-RUNTIME | CVE | HIGH | Zafiyetli AI Çalışma Zamanı Bileşeni | CWE-1104 | Model sunum ve parser bağımlılıklarını yamalayın. |
| CVE-STALE-ADVISORY-DATA | CVE | INFO | Eski Zafiyet Verisi | CWE-1104 | Zafiyet istihbaratını güncel tutun. |
| OCI-ROOT-USER | OCI | MEDIUM | Konteyner Root Kullanıcıyla Çalışıyor | CWE-250 | İmaj içinde root olmayan USER tanımlayın. |
| OCI-SECRET-IN-LAYER | OCI | CRITICAL | Konteyner Katmanında Gizli Bilgi | CWE-798 | Kimlik bilgilerini asla image katmanlarına gömmeyin. |
| OCI-UNPINNED-BASE | OCI | MEDIUM | Sabitlenmemiş Temel Image | CWE-494 | Temel image için değişmez OCI digest kullanın. |
| 7Z-PATH-TRAVERSAL | 7Z | HIGH | 7z Yol Kaçışı | CWE-22 | Hedef dizin dışına çıkan arşiv girdilerini engelleyin. |
| 7Z-BOMB | 7Z | HIGH | 7z Açılma Bombası | CWE-409 | Arşiv açma boyutunu ve iç içe derinliği sınırlandırın. |
| 7Z-SYMLINK-ESCAPE | 7Z | MEDIUM | 7z Sembolik Bağ Kaçışı | CWE-59 | Arşiv bağlantılarını güvenilmeyen yol olarak ele alın. |
| MANIFEST-REMOTE-CODE | MANIFEST | HIGH | Manifest Uzak Kod Yüklüyor | CWE-829 | Değişebilir uzak manifest kodunu çalıştırmayın. |
| MANIFEST-OVERBROAD-TOOLS | MANIFEST | HIGH | Aşırı Geniş Ajan Araç İzinleri | CWE-266 | Ajan araç izinlerini yayına almadan önce daraltın. |
| MANIFEST-MISSING-INTEGRITY | MANIFEST | MEDIUM | Eksik Manifest Bütünlüğü | CWE-353 | Manifestlerde dosya bütünlüğünü kaydedin ve doğrulayın. |
| JINJA2-SSTI-001 | JINJA2 | CRITICAL | Sunucu Tarafı Şablon Enjeksiyonu | CWE-94 | İstem şablonlarını kod gibi ele alın ve yüklemeden önce inceleyin. |
| JINJA2-UNSANDBOXED-TEMPLATE | JINJA2 | HIGH | Sandbox Olmadan Jinja2 Render Etme | CWE-94 | Şablon işleme sürecini yalıtılmış ortam içinde yapın ve dinamik şablon metni kullanmayın. |
| JINJA2-SECRET-EXPOSURE | JINJA2 | HIGH | Şablonda Gizli Bilgi Açığa Çıkması | CWE-200 | Kimlik bilgilerini işleme bağlamı içinde tutmayın. |
| COMPRESSED-ZIP-SLIP | COMPRESSED | HIGH | Sıkıştırılmış Arşiv Yol Kaçışı | CWE-22 | Arşiv yollarını açmadan önce normalize edin. |
| COMPRESSED-DECOMPRESSION-BOMB | COMPRESSED | HIGH | Açılma Bombası | CWE-409 | Arşiv açılma oranını ve dosya sayısını sınırlayın. |
| COMPRESSED-NESTED-DEPTH | COMPRESSED | MEDIUM | Aşırı İç İçe Arşiv Derinliği | CWE-400 | Aşırı iç içe model paketlerinden kaçının. |
| RAR-PATH-TRAVERSAL | RAR | HIGH | RAR Yol Kaçışı | CWE-22 | Hedef dizin dışına çıkan RAR girdilerini engelleyin. |
| RAR-BOMB | RAR | HIGH | RAR Açılma Bombası | CWE-409 | RAR açma boyutunu kısıtlayın. |
| RAR-ENCRYPTED-PAYLOAD | RAR | MEDIUM | Şifreli RAR Yükü | CWE-693 | İçeriği görülemeyen şifreli arşivleri yayına almayın. |
| MODEL-SECRET-API-KEY | MODEL-SECRET | CRITICAL | Model Paketinde API Anahtarı | CWE-798 | Sızan API anahtarlarını hemen döndürün. |
| MODEL-SECRET-PRIVATE-KEY | MODEL-SECRET | CRITICAL | Dosya İçinde Özel Anahtar | CWE-522 | Özel anahtar değerlerini model depolarında yayımlamayın. |
| MODEL-SECRET-PII | MODEL-SECRET | HIGH | Model Bağlamında Hassas Kişisel Veri | CWE-200 | Gerçek kullanıcı verisini model yayın paketlerinden uzak tutun. |
| SCAN-SIZE-MAX-FILE | SCAN-SIZE | INFO | Dosya Tarama Boyutu Politikasını Aşıyor | CWE-400 | En büyük dosya boyutu sınırını bilinçli ayarlayın. |
| SCAN-SIZE-ARCHIVE-RATIO | SCAN-SIZE | MEDIUM | Arşiv Açılma Oranı Politikayı Aşıyor | CWE-409 | Arşiv açılma oranını sınırlandırın. |
| SCAN-SIZE-TENSOR-DIMENSION | SCAN-SIZE | MEDIUM | Aşırı Tensor Boyutu | CWE-770 | Çalışma zamanı bütçesini aşan tensor üst verisini reddedin. |
Eresus desteği
Bulguyu rapora değil, kapatılabilir aksiyona çevirin.
Sentinel kural seti ve yayın kapısı tasarımı için exploit kanıtı, önceliklendirme, düzeltme yönü ve yeniden test akışı gerekiyorsa Eresus ekibi kapsamı birlikte çıkarabilir.
Güvenlik Testi Başlat