Yeni Nesil Siber Güvenlik Standardı: Certified AI Security Professional (CAISP)

Siber güvenlik sektörü sarsıcı ve geri dönülemez bir dönüşümden geçiyor. On yıldan uzun bir süredir etik hackerlık (Ethical Hacking) ve Sızma Testi (Pentest) dünyası; web uygulamalarına (XSS, SQLi), ağ altyapılarına ve zayıf parolalara odaklandı. Tüm stratejiler "Yazılım hatalarını bul ve sömür" felsefesine dayanıyordu.

Ancak Büyük Dil Modellerinin (LLM'ler) ve makine öğreniminin (ML) kurumsal finans, sağlık ve e-ticaret altyapılarına doğrudan ve otonom olarak entegre edilmesi, oyunun kurallarını kökünden değiştirdi. Geleneksel pentest yöntemleri (örneğin Web Zafiyetleri için OWASP Top 10 listesi), tahmin ve olasılık tabanlı çalışan yapay zeka modellerini test etmek için yetersiz kalmaktadır. Pazardaki bu devasa yetkinlik açığı, yeni nesil bir siber güvenlik disiplininin ve uzmanlık sertifikasyonunun doğmasına yol açtı: CAISP (Certified AI Security Professional) ve Yapay Zeka Pentesteri.

---

1. Geleneksel Sızma Testleri (Pentest) Yapay Zekada Neden İşe Yaramaz?

Standart bir ağ ve web uygulama sızma testi uzmanı, yamanmamış sunucu yazılımlarını, hatalı yapılandırılmış güvenlik duvarlarını veya kaynak kodundaki mantıksal açıkları arar. Makine Öğrenimi sistemlerinde ise tablodaki klasik açıklar çoğu zaman bulunmaz. Modern yapay zeka ajanları kod satırlarıyla değil; matematiksel ağırlıklar, vektörler ve milyarlarca parametre ile çalışır.

Bu farklı mimari, yepyeni bir saldırı yüzeyi yaratır:

• Hacklemek Yerine İkna Etmek: Bir destek asistanını veya İK botunu hacklemek için veritabanına terminal üzerinden sızmanıza gerek yoktur. Siber saldırganlar sistemi kelimelerle, yani Prompt Injection (İstem Enjeksiyonu) ile psikolojik olarak manipüle ederek modelin şirket gizli bilgilerini dışa vurmasını sağlar.
• Görsel Evasion (Atlatma/Kaçınma): Otonom araçlara veya havalimanlarındaki AI yüz tanıma kameralarına Brute-force saldırısı yapılamaz. Bunun yerine yüzünüze sadece matematiksel gürültü içeren bir (Adversarial) maske takarak sistemin sizi tamamen başka yetkili bir kişi sanmasını sağlayabilirsiniz.
• Faydasız DAST / SAST Araçları: Geleneksel siber güvenlik tarayıcıları, bir Sinir Ağının (Neural Network) içine girerek orada "zafiyet" arayamaz. Yapay zekayı hacklemek, veri bilimi ile ofansif saldırı prensiplerini aynı potada eritmeyi gerektirir.

---

2. Piyasada Aranan "Yapay Zeka Sızma Testi" Uzmanı Kimdir?

Bu yepyeni siber saldırı vektörlerinin panzehiri, hem Veri Biliminden (Data Science) anlayan hem de Kırmızı Takım (Red Team) zihniyetine sahip bir melez uzmandır. Sektördeki bazı öncü kuruluşların (Practical DevSecOps vb.) vermeye başladığı CAISP eğitimi veya eşdeğeri vizyona sahip olan bir AI Red Teamer, şu becerilere hakimdir:

A. Adversarial Makine Öğrenimi Uygulamaları

Uzmanlar; modeli canlı ortamda "Evasion" (Veri Manipülasyonu) ve "Poisoning" (Veri Zehirlenmesi) şoklarına maruz bırakır. Saldırganların modeli dışarıdan yanıltma ihtimali kontrollü olarak test edilir. Modelin kendi verisini ifşa edip etmediği "Model Inversion" saldırılarıyla doğrulanır.

B. Otonom LLM Jailbreaking Ustalığı

Generative AI tabanlı sohbet robotlarında üretici firmanın katı güvenlik filtreleri (Örn: OpenAI veya Anthropic'in standart bariyerleri) atlatılmaya çalışılır. CAISP sertifikalı bir uzman, yaratıcı prompt mühendisliği taktiklerini bir silah olarak kullanıp sistemin tehlikeli ve uygunsuz yanıtlar (Toxic Content) vermesini sağlamaya çalışır.

C. MLOps Tedarik Zinciri Güvenliği

Şirketler kendi modellerini eğitirken genellikle HuggingFace veya GitHub gibi açık kaynak model havuzlarından başlangıç ağırlıkları çeker. AI Güvenlik analizcileri, bu açık kaynak kodlarda bir siber casusun uyuyan arka kapı (Backdoor) kodu bırakıp bırakmadığını Adli Bilişim araçlarıyla denetler.

---

3. Kurumlar İçin Ne Anlama Geliyor? Riskleri Azaltmak

Bugün Fortune 500 düzeyindeki şirketlerin teknoloji liderleri, CISO ve CTO pozisyonları için çok ağır bir faturayla karşı karşıya. Üretken yapay zekayı iş süreçlerine dahil edip, güvenlik testini klasik bir yazılım test firmasına emanet etmek, aslında sahte bir güvenlik ("False Sense of Security") illüzyonundan ibarettir.

Şirketlerinizin kullandığı chatbotlar, otonom yazılım asistanları veya finansal kredi skorlama modelleri, Eresus Security'nin sağladığı uzmanlık gibi doğrudan Yapay Zeka Sızma Testleri (AI Security Red Teaming) işleminden geçmek zorundadır. Yalnızca bu alanda akredite olmuş yapay zeka ve siber güvenlik analistleri bir kurumun en kıymetli hazinesini, yani algoritmalarını güvence altına alabilir. İşletmeniz için AI güvenlik stratejisini kurmak, inovasyonu sürdürmenin ilk şartıdır.

Saha Kontrol Notları

Bu başlık pratikte yalnızca teorik risk olarak ele alınmamalıdır. AI sistemlerinde zafiyetin etkisi, modelin bulunduğu ortam ve bağlı olduğu veri kaynaklarıyla birlikte değişir.

İnceleme sırasında şu kanıtlar toplanmalıdır:

• Model veya agent hangi ortamda çalışıyor?
• Hangi kullanıcı veya servis hesabı kullanılıyor?
• Hassas veri kaynakları ayrı etiketlenmiş mi?
• Model dosyası veya artefact kaynağı doğrulanmış mı?
• Yükleme anında kod çalıştırma riski var mı?
• Retrieval sonuçları kullanıcı yetkisine göre filtreleniyor mu?
• Tool çağrıları ayrı loglanıyor mu?
• Kritik aksiyonlarda onay mekanizması var mı?
• Test ortamı production verisinden ayrılmış mı?
• Olay halinde hangi loglardan geri dönüş yapılacak?

Uygulama Kontrol Listesi

• Güvenilmeyen model dosyaları izole ortamda açılmalı.
• Model registry erişimi minimum yetkiyle çalışmalı.
• Hash, imza veya provenance bilgisi tutulmalı.
• Agent tool izinleri görev bazlı ayrılmalı.
• Memory ve retrieval kaynakları ayrı güven sınırı olarak ele alınmalı.
• Prompt testleri runtime aksiyon testleriyle desteklenmeli.
• Her bulgu iş etkisiyle birlikte raporlanmalı.

Karar Noktası

Bu risk müşteri verisine, üretim API’sine, geliştirici ortamına veya model yükleme hattına dokunuyorsa bekletilmemelidir. Eresus Security bu tip incelemelerde dosya, runtime, tool ve veri sınırını birlikte test ederek gerçek saldırı yolunu kanıtlar.

Operasyonel İnceleme Checklisti

• Model veya agent kaynağı doğrulandı mı?
• Tool izinleri minimum yetkiyle mi tanımlandı?
• Retrieval sonucu kullanıcı yetkisine göre filtreleniyor mu?
• Memory kalıcı talimat riskine karşı incelendi mi?
• Model artefact hash veya imza ile takip ediliyor mu?
• Yükleme işlemi sandbox içinde test edildi mi?
• Prompt testi runtime aksiyon testiyle desteklendi mi?
• MCP veya plugin server listesi çıkarıldı mı?
• Agent production API çağırıyorsa onay var mı?
• Veri sızıntısı senaryosu kontrollü denendi mi?
• Kapsam net yazıldı mı?
• Etkilenen varlık sahibi belli mi?
• Test ortamı production etkisinden ayrıldı mı?
• Kullanıcı rolleri doğru temsil ediliyor mu?
• Hassas veri sınıfı tanımlandı mı?
• Yetki sınırı teknik olarak doğrulandı mı?
• Log kaynağı ve saklama süresi belli mi?
• Bulgu tekrar üretilebilir kanıtla destekleniyor mu?
• İş etkisi teknik etkiden ayrı açıklandı mı?
• Düzeltme sahibi belirlendi mi?
• Retest kriteri yazıldı mı?
• Benzer risklerin nerelerde tekrar edebileceği kontrol edildi mi?
• Monitoring veya alert tarafında görünürlük var mı?
• Olay müdahale adımı gerekiyorsa planlandı mı?
• Yönetim özeti teknik jargona boğulmadan hazırlanabilir mi?

Sonraki Teknik Adım

Bu checklist tamamlandıktan sonra bulgular önem sırasına göre backlog’a taşınmalı, kritik riskler için retest planı çıkarılmalı ve ilgili servis/hub sayfasına iç bağlantı verilmelidir. Eresus Security bu aşamada kapsam netleştirme, kanıt üretme ve remediation önceliklendirme konusunda teknik ekiplerle birlikte çalışır.

Ek Kontrol Soruları

• Bu risk hangi varlıkları etkiliyor?
• Hangi kullanıcı rolleri bu akışa erişebiliyor?
• Aynı sorun başka endpoint veya entegrasyonda tekrar ediyor mu?
• Bulgunun müşteri verisine etkisi var mı?
• Loglardan olayın izi sürülebiliyor mu?
• Düzeltme sonrası retest nasıl yapılacak?
• Geçici önlem ile kalıcı çözüm ayrıldı mı?
• İş etkisi teknik ekibin dışında da anlaşılır mı?
• Benzer hata için önleyici kontrol eklenebilir mi?
• Ekip bu kontrolü release sürecine bağlayabilir mi?
• Gerekirse bağımsız doğrulama için hangi kanıtlar hazırlanmalı?
• Sonraki sprintte hangi iç bağlantı ve servis sayfası desteklemeli?