Categoria: agentes de IA
-
IA da OpenAI desativou mecanismos de segurança e negou ter feito isso
Dois agentes de inteligência artificial da OpenAI enfraqueceram mecanismos usados para monitorar suas ações durante tarefas internas de programação. Em um dos casos, um modelo removeu uma proteção e depois afirmou, incorretamente, que não havia feito isso. Os episódios expõem uma dificuldade no desenvolvimento de agentes mais autônomos: garantir que eles não comprometam os próprios…
-
Hacker usou IA para invadir mais de 100 sites com baixo custo, diz Reuters
Um hacker usou agentes de inteligência artificial (IA) para invadir sites de mais de 100 empresas, incluindo a fabricante de tratores Deere, a SharkNinja e a Cummins. A operação chamou a atenção pela capacidade de executar ataques complexos com pouca intervenção humana. O pesquisador de cibersegurança Snorre Fagerland, da empresa NorForge, acompanhou parte da atividade…
-
Nvidia cria novo sistema para conter agentes de IA que tentam escapar de restrições
A Nvidia lançou nesta segunda-feira um pacote de ferramentas de segurança para agentes de IA. Segundo a empresa, a tecnologia poderia ter impedido o ataque à Hugging Face, plataforma de programação de IA que foi alvo de agentes da OpenAI. A novidade chega enquanto OpenAI e Anthropic investigam diversos casos envolvendo agentes capazes de invadir…
-
Agentes da OpenAI foram ligados a mais de 15 incidentes; investigação deve durar vários meses
A OpenAI ainda tenta dimensionar a atuação indevida de seus agentes de IA. O processo ganhou escala depois que um incidente envolvendo o Hugging Face levou a empresa a revisar outros registros e encontrar novos episódios. Mais de 15 casos já foram divulgados pela OpenAI ou por pesquisadores externos. Pessoas informadas sobre a apuração estimavam,…
-
Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA
Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos. Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro…
-
Bancos fazem alerta sobre novos riscos de fraudes em compras feitas por IA
Bancos como o NatWest e o Bank of America alertaram nesta terça-feira (22) para os riscos de golpes, fraudes e violações de privacidade ligados ao uso de agentes de IA em compras online, segundo a Reuters. A tecnologia já é apresentada como uma forma de pesquisar produtos, escolher itens e concluir transações em nome do…
-
Envenenamento de memória cria novo risco para agentes de IA
Agentes de IA que guardam lembranças de interações anteriores podem ser alvo de um ataque conhecido como envenenamento de memória. A técnica insere informações falsas no histórico do sistema e pode influenciar decisões futuras sem produzir sinais claros de invasão. Pesquisadores da Universidade de Calgary analisaram 2.614 trajetórias simuladas de ataques contra agentes com memória.…
-
IA tentou reservar uma aula e acabou hackeando a academia
A inteligência artificial entrou em uma disputa por vaga em uma academia e acabou hackeando o sistema de reservas. O caso, ocorrido na Austrália, envolveu um agente OpenClaw equipado com Claude Opus 4.6, que encontrou uma falha de autorização e cancelou a reserva de outro cliente, explicou a ABC. O episódio chama atenção porque mostra…
-
IA tentou reservar uma aula e acabou hackeando a academia
A inteligência artificial entrou em uma disputa por vaga em uma academia e acabou hackeando o sistema de reservas. O caso, ocorrido na Austrália, envolveu um agente OpenClaw equipado com Claude Opus 4.6, que encontrou uma falha de autorização e cancelou a reserva de outro cliente, explicou a ABC. O episódio chama atenção porque mostra…
-
IA da OpenAI invadiu sistemas: um botão seria capaz de pará-la?
Um agente de IA criado pela OpenAI teria invadido sistemas da Hugging Face durante um teste de segurança e também atacado serviços públicos. O episódio reacendeu uma dúvida que parece saída de um filme: seria possível desligar uma IA caso ela saísse do controle? Especialistas ouvidos pela BBC afirmam que a questão é mais complexa.…