EresusSecurity
Prompt Injection

Prompt güvenliğini cevap filtresiyle değil, etki kanıtıyla test edin.

Eresus; kullanıcı mesajı, e-posta, doküman, web sayfası, RAG kaynağı ve MCP araç açıklaması gibi güvenilmeyen girdilerin LLM davranışını nasıl bozduğunu ölçer.

Güvenlik görüşmesi planlaTüm hizmetler
Kimin için uygun

Bu program en çok aşağıdaki ekiplerde hızla değer üretir.

Yapay zeka ürün ve platform ekipleri

LLM, RAG, MCP, ajan veya model kabul akışlarını iç ya da müşteri yüzüne taşıyan ekipler.

Yapay zeka alanına genişleyen güvenlik ekipleri

Sızma testi programı çalıştırıp şimdi koruma kuralı, prompt ve araç suistimali doğrulamasına ihtiyaç duyan organizasyonlar.

Açıklanabilir sertleştirme isteyen ekipler

Politika, prompt, MCP ve çalışma zamanı bulgularını doğrudan yayın kararına çevirmek isteyen ekipler.

Kapsam

Doğrudan prompt injection testleri
Doküman, e-posta ve web içeriği üzerinden dolaylı injection
RAG ve bağlam penceresi manipülasyonu
Araç çağrısı, veri sızıntısı ve onay atlatma kontrolleri

Risk sinyalleri

Modelin sistem talimatını yok sayması
Kullanıcının görmediği içerikten talimat çalıştırılması
Hassas verinin özet veya araç çıktısına karışması
Prompt filtresi geçse bile ajan aksiyonunun risk üretmesi

Teslimatlar

Prompt injection bulgu seti
Korumaların atlatıldığı yeniden üretim adımları
Prompt, RAG ve araç sınırı düzeltmeleri
CI/CD veya yayın kapısı için test önerileri
Test modeli

Girdi tehdidini iş etkisine çeviren pratik test akışı.

01

Problem

LLM’in hangi güvenilmeyen içerikleri okuduğunu ve hangi aksiyonlara bağlandığını çıkarırız.

02

Saldırı senaryosu

Görünür kullanıcı mesajı ve gizli doküman talimatlarını ayrı ayrı deneriz.

03

Kanıt

Başarılı atlatmayı yanıt, araç çağrısı, erişilen veri ve log izleriyle gösteririz.

04

Teslimat

Düzeltmeyi sistem talimatı, veri ayrımı, araç yetkisi ve onay kapısı seviyesinde tarif ederiz.

Sık sorulanlar

Alıcıların ilk konuşmada netleştirmek istediği başlıklar.

Hangi yapay zeka yüzeylerini ve mimarilerini test ediyorsunuz?+
Otonom AI ajanları, LLM entegrasyonları, RAG vektör arama akışları, MCP sunucuları, araç/fonksiyon çalıştırma sınırları, serileştirilmiş model dosyaları (.pkl, .joblib, .gguf, .onnx, .keras) ve koruma kuralı (guardrail) katmanlarını test ederiz.
Bu çalışma sadece basit prompt injection testi ile mi sınırlı?+
Hayır. Prompt injection incelenen başlıklardan sadece biridir. Kırmızı takımımız; ajan araç yetkilerinin kötüye kullanımı, RAG dokümanlarından gelen dolaylı enjeksiyonlar, model tersine mühendisliği, veri zehirlenmesi ve güvensiz model deserialization ile RCE gibi sistemik tehditlere odaklanır.
Bulgular yapay zeka ekipleri için nasıl mühendislik aksiyonlarına çevrilir?+
Her bulguyu somut koruma kurallarına, sistem promptu yapısal sertleştirmesine, araç çağrıları için katı JSON şema doğrulayıcılarına, bağlam penceresi izolasyonuna veya container sandbox yapılandırmalarına dönüştürürüz.
Yapay Zeka Güvenlik Testinin süresi ve fiyatlandırması nasıldır?+
Tipik bir AI ve ajan güvenlik değerlendirmesi; ajan araç sayısı, RAG veri kaynakları ve özel model mimarisine göre 7 ile 20 iş günü sürer. Fiyatlandırma entegrasyon ve araç sınırlarına göre şeffaf olarak belirlenir.
AB Yapay Zeka Yasası (EU AI Act) ve OWASP LLM Top 10 uyumu değerlendiriliyor mu?+
Evet. Tüm testlerimiz OWASP LLM Top 10 risklerini tam olarak kapsar ve bulguları AB Yapay Zeka Yasası'nın (EU AI Act) yüksek riskli sistemler için belirlediği şeffaflık ve siber güvenlik zorunluluklarıyla eşleştirir.
AI koruma kuralları ve prompt düzeltmeleri için yeniden test dahil mi?+
Evet. Düzeltmelerin anlamsal varyasyonlarla atlatılamadığından emin olmak için 30 gün içinde hedeflenmiş adversarial jailbreak ve araç sınırı testlerini ücretsiz yeniden uygularız.

Riskleri iş etkisine bağlarız.

Bulgular sadece CVSS skoru olarak kalmaz. Hangi müşteri akışını, hangi veri sınıfını, hangi operasyonel hedefi etkilediği açıkça yazılır.

Teslimat geliştirici ve yönetici için ayrı okunur.

Teknik ekipler yeniden üretilebilir kanıt ve düzeltme yönü alır; liderlik tarafı ise risk hikayesini, önceliği ve kapanış durumunu net görür.

İlgili içerik

Bu hizmeti açıklayan araştırma ve güvenlik bültenleri.

Araştırma

Prompt Security Neden Yetmez?

Prompt filtreleri AI güvenliği için gereklidir ama agent, RAG ve tool kullanan sistemlerde veri, yetki ve aksiyon sınırlarını tek başına koruyamaz.

Araştırma

Yapay Zeka Jailbreak (LLM Sınır Aşımı) Sanatı: Kodlar Nasıl Kırılır?

Siber güvenlik uzmanları ve Red Team ekipleri Büyük Dil Modellerini (LLM) nasıl Jailbreak eder? GenAI sınırlarını aşmanın (DAN, Do Anything Now) teknik...

Güvenlik bülteni

MCPHub skipAuth Konfigürasyonu ile Kimlik Doğrulama Atlatma

MCPHub üzerinde skipAuth etkinleştirildiğinde authentication ve admin authorization kontrolleri atlanır; kimliği doğrulanmamış kullanıcılar ayrıcalıklı API fonksiyonlarına erişebilir.

Sonraki adım

Bu kapsamı gerçek risk yüzeyinize göre birlikte netleştirelim.

Pilot, tek uygulama, kritik API, AI ajan akışı veya daha geniş program fark etmez; önce iş etkisi yüksek yüzeyden başlarız.

Güvenlik görüşmesi planlaKapsam iste