Secure by Design
The Evolution of AI Security: Why Secure by Design Matters
Eresus Security Research TeamGüvenlik Araştırmacısı
26 Mart 2025
1 dk okuma
Yapay Zeka Güvenlik Ortamı
Üretken yapay zeka (GenAI) çağı geldi ve işletmeler bu teknolojiyi uçak hızında benimsiyor. Yapay zeka sistemlerini korumak, güvenlik algısında köklü bir değişim gerektirir.
YZ'ye Özgü Saldırı Yüzeyi
Geleneksel siber güvenliğin ötesinde, yapay zeka sistemleri şunlarla yüzleşir:
- Veri Zehirlenmesi (Data Poisoning): Saldırganlar eğitim verilerine zararlı veriler sokarak sistemi daha canlıya alınmadan tehlikeye atarlar.
- İstem Enjeksiyonu (Prompt Injection): Güvenlik korkuluklarını aşan dikkatle hazırlanmış kelime dizileri.
- Model Seriden Çıkarma (Deserialization) Saldırıları: Yapay zeka modelleri kaydedildiğinde, içlerine zararlı Python/C++ kodları gömülebilir ve bu da model yüklendiğinde sunucunun hacklenmesine yol açar.
Derinlemesine Savunma
Veri doğrulama, model gözetimi ve gerçek zamanlı koruma adımlarının Yapay Zeka'ya özelleştirilmiş bir yapıda katmanlar halinde (Defense in Depth) kurgulanması şarttır.