Koruma Kuralları
Yapay zeka yardımcıları ve orkestrasyon akışları için faydayı öldürmeden daha güvenli varsayılanlar kuran koruma kuralı tasarımı.
Tek bir jailbreak ile büyüyen aşırı geniş araç ve bellek kapsamları.
Politikayı kontrol yerine tiyatroya dönüştüren zayıf insan onayı tasarımı.
Prompt, eklenti, MCP sunucusu ve harici içerik arasındaki görünmez güven sınırları.
Kimler İçin
İç veya müşteri yüzlü yapay zeka yardımcıları yayınlayan ekipler.
Prompt, araç ve bellek katmanlarında tutarlı kontroller isteyen platform ekipleri.
Genel yapay zeka politikasını teknik yaptırıma dönüştüren risk ekipleri.
Kullanım Alanları
System prompt, araç izin listesi ve onay sınırlarını tasarlayın.
Belge ve tarayıcıya bağlı ajanlarda prompt injection etkisini küçültün.
Regüle kullanım senaryolarında veri getirme, aksiyon çalıştırma ve çıktı filtreleme katmanlarını sertleştirin.
İlgili İçerikler
Yapay Zeka (LLM) Manipülasyonları: Prompt Injection ve RAG Zehirlenmesi
Şirketinizin gururla yayınladığı ChatGPT klonu siber korsanların emrine nasıl geçiyor? Doğrudan (Direct) ve Dolaylı (Indirect) Prompt Injection, Data...
Derin Sahtecilik (Deepfake) Suçları ve Vishing: AI Destekli Yeni Nesil Oltalama
Yapay zeka ses klonlama (Vishing) ve Deepfake teknolojilerinin kurumsal dolandırıcılıklarda nasıl kullanıldığını ve bunlara karşı savunma stratejilerini...
OWASP Top 10 for LLM: Yapay Zeka Uygulamalarındaki En Kritik 10 Zafiyet
Büyük Dil Modelleri (LLM) için hazırlanan OWASP Top 10 listesini yakından inceleyin. Prompt enjeksiyonundan zehirli veriye kadar en kritik yapay zeka...
İlgili Güvenlik Bültenleri
SSE Uç Noktası URL Yolundan Rastgele Kullanıcı Adı Kabul Ediyor — MCPHub'da Kullanıcı Kimliği Taklidi
MCPHub, hesabı doğrulamadan veya kimliğini kontrol etmeden SSE URL yolundan gelen saldırgan kontrolündeki kullanıcı adını kabul edip dahili kullanıcı bağlamı oluşturuyor; bu durum kullanıcı kimliği taklidine izin veriyor.
MCPHub skipAuth Konfigürasyonu ile Kimlik Doğrulama Atlatma
MCPHub üzerinde skipAuth etkinleştirildiğinde kimlik doğrulama ve admin yetkilendirme kontrolleri atlanır; kimliği doğrulanmamış kullanıcılar ayrıcalıklı API fonksiyonlarına erişebilir.
Sık Sorulan Sorular
Koruma kuralı sadece prompt kuralı mıdır?
Hayır. Etkili koruma için araç, bellek, veri getirme, onay, kimlik ve denetlenebilirlik etrafında çalışma zamanı kontrolleri gerekir.
Mevcut bir mimariyi inceleyebilir misiniz?
Evet. Mevcut yardımcı veya ajan mimarisini inceleyip tehdit modeline en çok etki eden kontrolleri önceliklendirebiliriz.
Bu saldırı yüzeyini birlikte doğrulayalım mı?
Bu iş akışı için kapsam, tehdit modelleme ve düzeltme öncelikleri üzerine Eresus Security ile görüşün.
Eresus ile Görüş