EresusSecurity
LLM Red Teaming

LLM ürünlerini gerçek saldırı senaryolarıyla zorlayın.

Eresus; chatbot, RAG, copilot, ajan ve üretim API’sine bağlı LLM akışlarında prompt injection, jailbreak, hassas veri sızıntısı, araç suistimali ve politika atlatma risklerini kanıtla doğrular.

Güvenlik görüşmesi planlaTüm hizmetler
Kimin için uygun

Bu program en çok aşağıdaki ekiplerde hızla değer üretir.

Yapay zeka ürün ve platform ekipleri

LLM, RAG, MCP, ajan veya model kabul akışlarını iç ya da müşteri yüzüne taşıyan ekipler.

Yapay zeka alanına genişleyen güvenlik ekipleri

Sızma testi programı çalıştırıp şimdi koruma kuralı, prompt ve araç suistimali doğrulamasına ihtiyaç duyan organizasyonlar.

Açıklanabilir sertleştirme isteyen ekipler

Politika, prompt, MCP ve çalışma zamanı bulgularını doğrudan yayın kararına çevirmek isteyen ekipler.

Kapsam

Doğrudan ve dolaylı prompt injection
Jailbreak ve politika atlatma denemeleri
RAG veri sızıntısı ve bağlam zehirlenmesi
Tool call, MCP ve ajan aksiyon sınırları

Risk sinyalleri

Hassas müşteri verisinin yanıt veya araç çıktısında açığa çıkması
Ajanın yetkisiz API aksiyonu alması
Sistem talimatlarının kullanıcı içeriğiyle ezilmesi
RAG kaynağı üzerinden kalıcı davranış bozulması

Teslimatlar

Saldırı senaryosu matrisi
Yeniden üretilebilir prompt ve yanıt kanıtları
OWASP LLM risk eşlemesi
Koruma kuralı ve yeniden test önerileri
Çalışma akışı

Problemden yayın kararına giden net red team akışı.

01

Problem

LLM’in hangi veri, araç, müşteri akışı ve karar sınırına dokunduğunu belirleriz.

02

Saldırı senaryosu

Prompt injection, RAG zehirlenmesi, jailbreak ve tool abuse denemelerini gerçek kullanım bağlamına göre tasarlarız.

03

Kanıt

Her başarılı senaryoyu istem, yanıt, araç çağrısı, log ve yeniden üretim adımıyla kanıtlarız.

04

Teslimat

Bulguları öncelik, OWASP LLM eşlemesi, düzeltme yönü ve yeniden test komutuyla teslim ederiz.

Sık sorulanlar

Alıcıların ilk konuşmada netleştirmek istediği başlıklar.

Hangi yapay zeka yüzeylerini ve mimarilerini test ediyorsunuz?+
Otonom AI ajanları, LLM entegrasyonları, RAG vektör arama akışları, MCP sunucuları, araç/fonksiyon çalıştırma sınırları, serileştirilmiş model dosyaları (.pkl, .joblib, .gguf, .onnx, .keras) ve koruma kuralı (guardrail) katmanlarını test ederiz.
Bu çalışma sadece basit prompt injection testi ile mi sınırlı?+
Hayır. Prompt injection incelenen başlıklardan sadece biridir. Kırmızı takımımız; ajan araç yetkilerinin kötüye kullanımı, RAG dokümanlarından gelen dolaylı enjeksiyonlar, model tersine mühendisliği, veri zehirlenmesi ve güvensiz model deserialization ile RCE gibi sistemik tehditlere odaklanır.
Bulgular yapay zeka ekipleri için nasıl mühendislik aksiyonlarına çevrilir?+
Her bulguyu somut koruma kurallarına, sistem promptu yapısal sertleştirmesine, araç çağrıları için katı JSON şema doğrulayıcılarına, bağlam penceresi izolasyonuna veya container sandbox yapılandırmalarına dönüştürürüz.
Yapay Zeka Güvenlik Testinin süresi ve fiyatlandırması nasıldır?+
Tipik bir AI ve ajan güvenlik değerlendirmesi; ajan araç sayısı, RAG veri kaynakları ve özel model mimarisine göre 7 ile 20 iş günü sürer. Fiyatlandırma entegrasyon ve araç sınırlarına göre şeffaf olarak belirlenir.
AB Yapay Zeka Yasası (EU AI Act) ve OWASP LLM Top 10 uyumu değerlendiriliyor mu?+
Evet. Tüm testlerimiz OWASP LLM Top 10 risklerini tam olarak kapsar ve bulguları AB Yapay Zeka Yasası'nın (EU AI Act) yüksek riskli sistemler için belirlediği şeffaflık ve siber güvenlik zorunluluklarıyla eşleştirir.
AI koruma kuralları ve prompt düzeltmeleri için yeniden test dahil mi?+
Evet. Düzeltmelerin anlamsal varyasyonlarla atlatılamadığından emin olmak için 30 gün içinde hedeflenmiş adversarial jailbreak ve araç sınırı testlerini ücretsiz yeniden uygularız.

Riskleri iş etkisine bağlarız.

Bulgular sadece CVSS skoru olarak kalmaz. Hangi müşteri akışını, hangi veri sınıfını, hangi operasyonel hedefi etkilediği açıkça yazılır.

Teslimat geliştirici ve yönetici için ayrı okunur.

Teknik ekipler yeniden üretilebilir kanıt ve düzeltme yönü alır; liderlik tarafı ise risk hikayesini, önceliği ve kapanış durumunu net görür.

İlgili içerik

Bu hizmeti açıklayan araştırma ve güvenlik bültenleri.

Araştırma

Jailbreak’in Ötesinde: Agentic AI İçin Contextual Red Teaming

Jailbreak testlerinin ötesinde Agentic AI güvenliği: dolaylı prompt injection, RAG yetkileri, tool suistimali ve çok adımlı ajan akışları nasıl test edilir?

Araştırma

Agentic AI İş Akışlarında Otomatik Red Team Taramaları

Agentic AI iş akışlarında prompt injection, tool abuse, çapraz tenant veri erişimi ve kaynak tüketimi risklerini otomatik ve tekrarlanabilir şekilde test etme rehberi.

Araştırma

Yapay Zeka Jailbreak (LLM Sınır Aşımı) Sanatı: Kodlar Nasıl Kırılır?

Siber güvenlik uzmanları ve Red Team ekipleri Büyük Dil Modellerini (LLM) nasıl Jailbreak eder? GenAI sınırlarını aşmanın (DAN, Do Anything Now) teknik...

Güvenlik bülteni

MCPHub Sunucu Kaydında Kimlik Doğrulamasız Uzaktan Kod Çalıştırma

MCPHub server registration akışında saldırgan kontrollü command ve args değerleri STDIO üzerinden çalıştırılabildiği için host üzerinde tam uzaktan kod çalıştırma etkisi oluşabilir.

Güvenlik bülteni

MCPHub skipAuth Konfigürasyonu ile Kimlik Doğrulama Atlatma

MCPHub üzerinde skipAuth etkinleştirildiğinde authentication ve admin authorization kontrolleri atlanır; kimliği doğrulanmamış kullanıcılar ayrıcalıklı API fonksiyonlarına erişebilir.

Sonraki adım

Bu kapsamı gerçek risk yüzeyinize göre birlikte netleştirelim.

Pilot, tek uygulama, kritik API, AI ajan akışı veya daha geniş program fark etmez; önce iş etkisi yüksek yüzeyden başlarız.

Güvenlik görüşmesi planlaKapsam iste