Categoria: Riscos da IA
-
Nvidia cria novo sistema para conter agentes de IA que tentam escapar de restrições
A Nvidia lançou nesta segunda-feira um pacote de ferramentas de segurança para agentes de IA. Segundo a empresa, a tecnologia poderia ter impedido o ataque à Hugging Face, plataforma de programação de IA que foi alvo de agentes da OpenAI. A novidade chega enquanto OpenAI e Anthropic investigam diversos casos envolvendo agentes capazes de invadir…
