#ai-agents

5 textos

Seguridad1 de septiembre de 20266 min de lectura

Sin exploit y sin clave robada: solo un mensaje que el modelo aceptó obedecer. La inyección de prompts no se parchea, así que ¿qué puede expresar?

Leer

Seguridad21 de julio de 20265 min de lectura

Una clave concede autoridad ilimitada y todo límite encima es software. Un nombramiento se retira; una clave copiada no se descopia.

Leer

Arquitectura14 de julio de 20266 min de lectura

Una cartera de la que un agente de IA puede gastar sin preguntarle. Toda la cuestión de diseño está en qué lo detiene.

Leer

Arquitectura9 de junio de 20265 min de lectura

Todas aplican límites de gasto. Difieren en dónde se aplica el límite, y eso decide qué pasa cuando el operador se equivoca.

Leer

Seguridad2 de junio de 20266 min de lectura

Los modos de fallo con pruebas detrás, separados de los que solo tienen una estadística. Una cifra muy citada no sobrevive.

Leer