Dil Modeli Güvenlik Veritabanı
Yapay zeka ekosistemindeki güvenlikle ilgili model sorunlarını, entegrasyon zayıflıklarını ve tekrar eden saldırı sınıflarını toplayan merkez.
Ürün kusuru, model davranışı ve tedarik zinciri hatasını birbirine karıştırmak.
Yapay zekaya özgü zayıflıklar hakkında kurumsal hafızayı kaybetmek.
Yüzeyde farklı görünen olaylar yüzünden tekrar eden saldırı sınıflarını küçümsemek.
Kimler İçin
Tekrar eden yapay zeka saldırı sınıflarını takip eden araştırmacılar.
Model ve entegrasyonlar etrafında iç tehdit bilgisi oluşturan ekipler.
Tekil başlıklar değil, kalıp haritası görmek isteyen mühendisler.
Kullanım Alanları
Sayfayı güvenlik bültenleri, araştırma ve tekrar eden sorun sınıfları için giriş noktası olarak kullanın.
Model hatası, entegrasyon hatası ve yayına alma hatası arasındaki farkı takip edin.
Yapay zeka güvenlik incelemesi için ortak kelime haznesi oluşturun.
İlgili İçerikler
OWASP Top 10 for LLM: Yapay Zeka Uygulamalarındaki En Kritik 10 Zafiyet
Büyük Dil Modelleri (LLM) için hazırlanan OWASP Top 10 listesini yakından inceleyin. Prompt enjeksiyonundan zehirli veriye kadar en kritik yapay zeka...
AI Safety ve AI Security Arasındaki Fark
AI Safety (Yapay Zeka Emniyeti) ile AI Security (Yapay Zeka Siber Güvenliği) arasındaki kritik ayrımları öğrenin. Kurumsal LLM sistemlerini inşa ederken...
AI Tedarik Zinciri Saldırıları ve Zehirli Modeller
Açık kaynaklı yapay zeka modellerindeki Truva Atları! Hugging Face ve GitHub üzerinden şirket ağınıza sızan zehirli Pickle ve GGUF modellerinin...
İlgili Güvenlik Bültenleri
MCPHub Sunucu Kaydında Kimlik Doğrulamasız Uzaktan Kod Çalıştırma
MCPHub server registration akışında saldırgan kontrollü komut ve argüman değerleri STDIO üzerinden çalıştırılabildiği için host üzerinde tam uzaktan kod çalıştırma etkisi oluşabilir.
MCPHub skipAuth Konfigürasyonu ile Kimlik Doğrulama Atlatma
MCPHub üzerinde skipAuth etkinleştirildiğinde kimlik doğrulama ve admin yetkilendirme kontrolleri atlanır; kimliği doğrulanmamış kullanıcılar ayrıcalıklı API fonksiyonlarına erişebilir.
Sık Sorulan Sorular
Bu alan şimdiden aranabilir bir veritabanı mı?
Henüz değil. Bu fazda, ileride daha derin aranabilir sisteme dönüşebilecek derlenmiş bir kaynak merkezidir.
Bunu blogdan neden ayrı kuruyorsunuz?
Çünkü uygulamacılar çoğu zaman kronolojik yazı akışından çok saldırı sınıfı haritasına ihtiyaç duyar.
Bu saldırı yüzeyini birlikte doğrulayalım mı?
Bu iş akışı için kapsam, tehdit modelleme ve düzeltme öncelikleri üzerine Eresus Security ile görüşün.
Eresus ile Görüş