Yapay Zeka Ajan Çalışma Zamanı Güvenliği Merkezi
Yapay zeka ajanlarının araç çağırdığı, bellek kullandığı, veri getirdiği, MCP sunucularına bağlandığı ve üretim API’leri üzerinden aksiyon aldığı anları güvenceye almak için pratik merkez.
Yetkisiz araç çalıştırmaya dönüşen prompt injection.
Dosya, shell komutu, iç API veya aşırı ağ erişimi açan MCP ya da eklenti araçları.
Hassas bağlamı kalıcı hale getiren veya açığa çıkaran ajan belleği ve veri getirme akışları.
Kimler İçin
Sohbet özelliklerinden araç kullanan ajan mimarilerine geçen yapay zeka ürün ekipleri.
Üretime çıkmadan önce ajan davranışını doğrulayan güvenlik ekipleri.
API token’ları, MCP sunucuları ve onay akışlarından sorumlu platform ve backend ekipleri.
Kullanım Alanları
Her araç çağrısını kimlik, veri erişimi, onay ve denetim gereksinimiyle eşleştirin.
Prompt filtrelemeyi çalışma zamanı zorlamasından ve en düşük yetkili araç tasarımından ayırın.
Ajan sistemlerini müşteri veya çalışan kullanımına açmadan önce kanıt odaklı değerlendirmeye hazırlayın.
İlgili İçerikler
Yapay Zeka Ajan Çalışma Zamanı Güvenliği Nedir?
Yapay zeka ajan çalışma zamanı güvenliği, agentlerin üretim sırasında araç, bellek, veri getirme ve API yetkilerini nasıl kullandığını kanıtla izleyen ve sınırlandıran güvenlik yaklaşımıdır.
Prompt Security Neden Yetmez?
Prompt filtreleri AI güvenliği için gereklidir ama agent, RAG ve araç kullanan sistemlerde veri, yetki ve aksiyon sınırlarını tek başına koruyamaz.
Agent Tool Permission Security: AI Agentlerde Yetki Sınırı Nasıl Kurulur?
yapay zeka ajanılerde araç permission güvenliği; agentin hangi API, dosya, veri ve aksiyona hangi koşulda erişebileceğini en düşük yetkiyle sınırlar.
MCP Agent Runtime Riskleri: Tool Çağrıları Nasıl Saldırı Yüzeyine Dönüşür?
MCP kullanan yapay zeka ajanılerde runtime riskleri; araç izinleri, server güveni, kimlik bağlamı, veri sızıntısı ve kontrolsüz aksiyon zincirlerinden doğar.
İlgili Güvenlik Bültenleri
MCPHub Sunucu Kaydında Kimlik Doğrulamasız Uzaktan Kod Çalıştırma
MCPHub server registration akışında saldırgan kontrollü komut ve argüman değerleri STDIO üzerinden çalıştırılabildiği için host üzerinde tam uzaktan kod çalıştırma etkisi oluşabilir.
MCPHub skipAuth Konfigürasyonu ile Kimlik Doğrulama Atlatma
MCPHub üzerinde skipAuth etkinleştirildiğinde kimlik doğrulama ve admin yetkilendirme kontrolleri atlanır; kimliği doğrulanmamış kullanıcılar ayrıcalıklı API fonksiyonlarına erişebilir.
Sık Sorulan Sorular
Ajan çalışma zamanı güvenliği prompt güvenliğinden nasıl ayrılır?
Prompt güvenliği model cevabını şekillendirmeye çalışır. Çalışma zamanı güvenliği ise ajanın araçlar, API’ler, bellek ve veri getirme üzerinden gerçekten ne yapabildiğini doğrular.
Bir yapay zeka ajanı ne zaman çalışma zamanı değerlendirmesi gerektirir?
Araç çağırdığında, hassas veri okuduğunda, kayıt yazdığında, MCP sunucularına bağlandığında veya üretim kimlik bilgileriyle aksiyon aldığında gerekir.
Bu saldırı yüzeyini birlikte doğrulayalım mı?
Bu iş akışı için kapsam, tehdit modelleme ve düzeltme öncelikleri üzerine Eresus Security ile görüşün.
Eresus ile Görüş