Secure by Design
Tools and Technologies for Secure by Design AI Systems
Eresus Security Research TeamGüvenlik Araştırmacısı
16 Nisan 2025
1 dk okuma
Genel Bakış
Geleneksel güvenlik araçları, öngörülebilir davranışlara sahip deterministik (belirlenimci) sistemler için tasarlanmıştır. Oysa yapay zeka sistemleri olasılığa dayalıdır, veriden öğrenir ve zamanla gelişir. Bu farklılık büyük bir saldırı yüzeyi doğurur.
Yapay Zeka Güvenlik Test Araçları
- Model Tarayıcılar (Model Scanners): Geleneksel zafiyet tarayıcılar gibi çalışırlar ancak yapay zekaya özgüdürler. Statik tarayıcılar ağırlıkları (weights), mimariyi ve pickle vb. formatlardaki kodları analiz eder. Dinamik tarayıcılar ise çalışma zamanında jailbreak veya prompt enjeksiyon testleri uygular.
- Yapay Zeka Zafiyet Beslemeleri (Feeds): YZ tehditlerini ve onlara özel çözüm önerilerini takip eden özel veri tabanlarının kullanımı kaçınılmazdır.