PromptGuard
Asistanlar, copilots, agent’lar ve yapılandırılmış prompt akışları için açık kaynak prompt injection detection engine.
PromptGuard; ekiplerin prompt sınırlarını daha hızlı baskı testine sokmasını ve kırılgan güvenlik varsayımlarını azaltmasını sağlar.
Kapsadığı alanlar
Prompt injection kalıpları
Üretim kullanıcılarına ulaşmadan önce yaygın ve gelişen atlatma denemelerini yakalayın.
Sınır zayıflıkları
Talimat, araç ve veri getirme bağlamının güvensiz biçimde nerede birbirine karıştığını görün.
Koruma kuralı regresyon riski
Yayınlar arasında prompt güvenliği kalitesinin kaymasını daha kolay fark edin.
Ekipler nasıl kullanır
Yayın öncesi inceleme
Tam değerlendirme beklemek yerine prompt testlerini geliştirme sürecinin erken safhasında çalıştırın.
Asistan sertleştirme
Yardımcı, ajan ve iç asistanlarda zayıf prompt güven varsayımlarını sertleştirin.
Araştırma işbirliği
Güvenlik ve uygulamalı AI ekipleri arasında tekrar edilebilir injection test katmanı paylaşın.