Agentic AI
Securing Agentic AI: Where MLSecOps Meets DevSecOps
Eresus Security Research TeamGüvenlik Araştırmacısı
3 Nisan 2025
1 dk okuma
Ajan (Agentic) Yapay Zekayı Anlamak
Ajan (Agentic) yapay zeka sistemleri, sadece sorgulara cevap veren geleneksel AI modellerinin çok ötesine geçer. Ajanlar şunları yapabilir:
- Sınırlı insan gözetimiyle otonom hareket etmek
- Hedeflere ve kısıtlamalara dayalı kararlar almak
- Çevrelerini etkileyen eylemlerde bulunmak (API kullanımı)
- Zaman içinde davranışlarını öğrenmek ve uyarlamak
Zorluklar
İnsan komutunu bekleyen geleneksel modellerin aksine Ajan YZ, araçları kullanarak kararlar alır. Bir ajan sisteminde meydana gelecek zincirleme bir hata (örneğin zararlı prompt içeren bir maili okuyup sistemde komut çalıştırması), kurumlar için kritik güvenlik sorunları oluşturur.
Çözüm Yolları
Geleneksel DevSecOps pratiklerinin MLSecOps ile harmanlandığı, yapay zekanın sahip olduğu yetkilerin (Least Privilege) sıkı biçimde kontrol edildiği hibrid güvenlik tasarımları oluşturulmalıdır.