Model dosyası üretime girmeden önce güvenilir mi, kanıtlayın.
Eresus; HuggingFace ve özel model depolarından gelen pickle, PyTorch, ONNX, safetensors, GGUF, arşiv ve konteyner artefaktlarını tedarik zinciri ve çalışma zamanı riski açısından inceler.
Araştırmacılarımızın bulup bildirdiği açıklar
Eresus araştırma ekibine atfedilmiş, herkese açık güvenlik bültenleri. Testinizi yürüten ekip aynı ekip.
Bu program en çok aşağıdaki ekiplerde hızla değer üretir.
Yapay zeka ürün ve platform ekipleri
LLM, RAG, MCP, ajan veya model kabul akışlarını iç ya da müşteri yüzüne taşıyan ekipler.
Yapay zeka alanına genişleyen güvenlik ekipleri
Sızma testi programı çalıştırıp şimdi koruma kuralı, prompt ve araç suistimali doğrulamasına ihtiyaç duyan organizasyonlar.
Açıklanabilir sertleştirme isteyen ekipler
Politika, prompt, MCP ve çalışma zamanı bulgularını doğrudan yayın kararına çevirmek isteyen ekipler.
Kapsam
Risk sinyalleri
Teslimatlar
Kanıt standardı
İnceleyebileceğiniz kanıt. Planlayabileceğiniz sınırlar.
Her çalışma yazılı yetkilendirme, kanıt işleme ve net devir ile sınırlanır. Bunlar varsayılanlardır; imzalı kapsam bunları sıkılaştırabilir.
Teslim alacağınız kanıt
- Gerçek iş akışlarına bağlı test edilmiş prompt, ajan, RAG, MCP ve araç kullanımı yolları.
- Doğrulanan başarısızlıklar için redakte edilmiş konuşma ve istek/yanıt kanıtı.
- Politika, kimlik, araç kapsamı ve yayına alma düzeltme yönü.
- Kritik koruma kuralı değişiklikleri için yeniden test durumu.
Açık kapsam dışı
- Uyumluluk sertifikası veya modelin güvenli olduğu iddiası.
- Müşteri verisi veya model ağırlıkları üzerinde eğitim, saklama ya da yeniden dağıtım.
- Onaysız yıkıcı araç çağrıları veya üçüncü taraf sistemlerin suistimali.
- Her prompt veya ajan yolunun keşfedildiği garantisi.
Model dosyasını dosya gibi değil, çalıştırılabilir tedarik zinciri gibi inceleyin.
Problem
Modelin nereden geldiğini, nasıl yüklendiğini ve hangi ortamda çalışacağını netleştiririz.
Saldırı senaryosu
Zararlı pickle, özel operatör, arşiv kaçışı, gizli bilgi ve bağımlılık zincirlerini deneriz.
Kanıt
Bulguyu dosya yolu, hash, opcode, AST düğümü, manifest veya model üst verisiyle bağlarız.
Teslimat
Kabul kriteri, karantina, imzalama ve yeniden test adımlarını yayın kararına çeviririz.
Alıcıların ilk konuşmada netleştirmek istediği başlıklar.
Hangi yapay zeka yüzeylerini test ediyorsunuz?+
Bu çalışma sadece prompt injection testi mi?+
Bulguları mühendislik aksiyonlarına çeviriyor musunuz?+
Riskleri iş etkisine bağlarız.
Bulgular sadece CVSS skoru olarak kalmaz. Hangi müşteri akışını, hangi veri sınıfını, hangi operasyonel hedefi etkilediği açıkça yazılır.
Teslimat geliştirici ve yönetici için ayrı okunur.
Teknik ekipler yeniden üretilebilir kanıt ve düzeltme yönü alır; liderlik tarafı ise risk hikayesini, önceliği ve kapanış durumunu net görür.
Bu hizmeti açıklayan araştırma ve güvenlik bültenleri.
Backdoored LLM Tespiti Nasıl Yapılır?
Arka kapılı dil modellerini ölçekli test etmek için trigger arama, davranış farkı analizi ve model intake kontrollerini inceliyoruz.
Göz Ardı Edilen Tehdit Yüzeyi: Yapay Zeka (AI) Model Dosyalarında Gizlenen Sıfırıncı Gün (0-Day) Zafiyetleri
Siber güvenlik dünyasında herkes API güvenliğine, web zafiyetlerine veya bulut sızıntılarına odaklanmışken devasa bir tehdit yüzeyi göz ardı ediliy...
Bu kapsamı gerçek risk yüzeyinize göre birlikte netleştirelim.
Pilot, tek uygulama, kritik API, AI ajan akışı veya daha geniş program fark etmez; önce iş etkisi yüksek yüzeyden başlarız.