Categoria: agentes de IA
-
Envenenamento de memória cria novo risco para agentes de IA
Agentes de IA que guardam lembranças de interações anteriores podem ser alvo de um ataque conhecido como envenenamento de memória. A técnica insere informações falsas no histórico do sistema e pode influenciar decisões futuras sem produzir sinais claros de invasão. Pesquisadores da Universidade de Calgary analisaram 2.614 trajetórias simuladas de ataques contra agentes com memória.…
-
IA tentou reservar uma aula e acabou hackeando a academia
A inteligência artificial entrou em uma disputa por vaga em uma academia e acabou hackeando o sistema de reservas. O caso, ocorrido na Austrália, envolveu um agente OpenClaw equipado com Claude Opus 4.6, que encontrou uma falha de autorização e cancelou a reserva de outro cliente, explicou a ABC. O episódio chama atenção porque mostra…
-
IA tentou reservar uma aula e acabou hackeando a academia
A inteligência artificial entrou em uma disputa por vaga em uma academia e acabou hackeando o sistema de reservas. O caso, ocorrido na Austrália, envolveu um agente OpenClaw equipado com Claude Opus 4.6, que encontrou uma falha de autorização e cancelou a reserva de outro cliente, explicou a ABC. O episódio chama atenção porque mostra…
-
IA da OpenAI invadiu sistemas: um botão seria capaz de pará-la?
Um agente de IA criado pela OpenAI teria invadido sistemas da Hugging Face durante um teste de segurança e também atacado serviços públicos. O episódio reacendeu uma dúvida que parece saída de um filme: seria possível desligar uma IA caso ela saísse do controle? Especialistas ouvidos pela BBC afirmam que a questão é mais complexa.…
-
IA pode agir como um vírus digital em sistemas conectados, revela pesquisa
Testes conduzidos por pesquisadores da Universidade Fudan, em Xangai (China), indicaram que determinados modelos de inteligência artificial podem ser induzidos a criar cópias de si mesmos e buscar recursos adicionais em sistemas externos. Os experimentos foram realizados neste ano e analisaram o comportamento de 32 modelos diferentes. A pesquisa liderada pelo cientista da computação Xudong…
-
Google revela como o Chrome vai impedir erros e ataques com a chegada dos agentes de IA
O Google apresentou detalhes sobre como o Gemini no Chrome vai manter a navegação segura com a chegada dos agentes de IA. A novidade promete impedir ações indesejadas e proteger dados sensíveis durante a navegação. Com foco em transparência e controle do usuário, a empresa explica as camadas de defesa criadas para evitar que ataques…
-
Microsoft cria agente de IA para detectar malware sem humanos
A Microsoft apresentou um agente de inteligência artificial (IA) autônomo capaz de analisar e classificar se um software é malicioso ou inofensivo, sem assistência. Ainda considerado um protótipo, o Projeto Ire realiza engenharia reversa completa de um arquivo de software sem nenhuma pista sobre sua origem ou finalidade. “A arquitetura do sistema permite raciocínio em…