Bir ajan, Mors alfabesiyle 150.000 $ göndermeye ikna edildi
Ne açık ne çalınmış anahtar; yalnızca modelin uymayı kabul ettiği bir mesaj. İstem enjeksiyonu yamanacak bir hata değil: ikna edilmiş model ne yapabilir?
Oku#prompt-injection
2 yazı
Agentic cüzdan güvenliği: gerçekte ne ters gidiyor
Arkasında kanıt olan başarısızlıklar ile yalnızca istatistiği olanlar ayrı ayrı. Çok alıntılanan bir rakam incelemeye dayanmıyor.
Oku