PromptGuard
Asistanlar, copilots, agent’lar ve yapılandırılmış prompt akışları için açık kaynak prompt injection detection engine.
PromptGuard; ekiplerin prompt sınırlarını daha hızlı baskı testine sokmasını ve kırılgan güvenlik varsayımlarını azaltmasını sağlar.
Kapsadığı alanlar
Prompt injection kalıpları
Production kullanıcılara ulaşmadan önce yaygın ve gelişen bypass denemelerini yakalayın.
Sınır zayıflıkları
Instruction, tool ve retrieval context’in güvensiz biçimde nerede birbirine karıştığını görün.
Guardrail regresyon riski
Release’ler arasında prompt güvenliği kalitesinin drift etmesini daha kolay fark edin.
Ekipler nasıl kullanır
Pre-release inceleme
Tam assessment beklemek yerine prompt testlerini geliştirme sürecinin erken safhasında çalıştırın.
Assistant hardening
Copilot, agent ve iç asistanlarda zayıf prompt güven varsayımlarını sertleştirin.
Araştırma işbirliği
Security ve applied AI ekipleri arasında tekrar edilebilir injection test katmanı paylaşın.