The Cost of Being Wordy: Detecting Resource-Draining Prompts

Genel Bakış

Büyük dil modellerinin (LLM) yükselişi NLP dünyasını büyüledi. Ancak bu güç, yepyeni bir siber saldırı türüne de kapı araladı: Kaynak Tüketen İstemler (Resource-Draining Prompts).

"Denial of Wallet" (Cüzdan Reddi) Tehdidi

Saldırganlar, yapay zeka modelinin işlem süresini ve token üretim uzunluğunu en üst düzeye çıkarmak için algoritmik olarak hazırlanmış, süper karmaşık komutlar gönderebilirler. Bulut API'leri tüketim başına ücretlendirdiğinden, bu saldırılar faturayı şişirir.

Çözüm

Kapsamlı token sınırları, komut karmaşıklığı eşiklerine dayalı anlamsal hız sınırlaması (rate-limiting) ve kesintisiz fatura izleme uygulayın.