loader image

Categoria: envenenamento de memória

  • Envenenamento de memória cria novo risco para agentes de IA

    Agentes de IA que guardam lembranças de interações anteriores podem ser alvo de um ataque conhecido como envenenamento de memória. A técnica insere informações falsas no histórico do sistema e pode influenciar decisões futuras sem produzir sinais claros de invasão. Pesquisadores da Universidade de Calgary analisaram 2.614 trajetórias simuladas de ataques contra agentes com memória.…