Bir ajan, Mors alfabesiyle 150.000 $ göndermeye ikna edildi
Ne açık ne çalınmış anahtar; yalnızca modelin uymayı kabul ettiği bir mesaj. İstem enjeksiyonu yamanacak bir hata değil: ikna edilmiş model ne yapabilir?
Oku#ai-agents
5 yazı
Bir yapay zekâ ajanı neden asla özel anahtar tutmamalı
Anahtar sınırsız yetki verir; üstüne konan her sınır yazılımdır. Atama geri alınabilir, kopyalanmış anahtar geri alınamaz.
OkuAgentic cüzdan nedir?
Bir yapay zekâ ajanının her seferinde sormadan harcayabildiği cüzdan. Tasarım sorusu onu neyin durdurduğudur ve cevaplar ayrışır.
OkuAgentic cüzdanlar karşılaştırması: sınırlar gerçekte nerede yaşıyor
Hepsi harcama limiti uyguluyor. Fark, uygulamanın nerede durduğunda ve bu da işletmeci yanıldığında ne olacağını belirliyor.
OkuAgentic cüzdan güvenliği: gerçekte ne ters gidiyor
Arkasında kanıt olan başarısızlıklar ile yalnızca istatistiği olanlar ayrı ayrı. Çok alıntılanan bir rakam incelemeye dayanmıyor.
Oku