Sözlük › Prompt injection

Prompt injection

Bir LLM'in talimatlarını metne gizlenen komutlarla ele geçirme.

Prompt injection, bir dil modeline verilen asıl talimatların, işlenen metnin içine gizlenmiş komutlarla değiştirilmeye çalışılmasıdır. İçerik denetim sistemlerinde güvenlik açığı oluşturabilir; AIX gibi araçlar kullanıcı metnini veri olarak işler, komut olarak değil.

Metninde bu iz var mı? Ücretsiz AI Yazı Dedektörü ile kontrol et.

İlgili kavramlar

AI izi (AI tell)Burstiness (patlamalılık)Perplexity (şaşkınlık)E-E-A-THelpful Content