Categoria: Inteligência Artificial
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas
A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril. O caso…
-
Caso Hugging Face mostra como controlar agentes de IA virou desafio
Como comentamos há alguns dias, um agente de inteligência artificial da OpenAI criado para testes de segurança conseguiu ir além do esperado: além do incidente envolvendo o Hugging Face, o sistema também acessou outras contas e serviços usando credenciais expostas publicamente. A empresa atualizou sua investigação e confirmou que o episódio teve mais ramificações, embora…
-
Anthropic: Mythos encontra vulnerabilidades em algoritmos de criptografia
O Claude Mythos Preview, modelo de inteligência artificial (IA) desenvolvido pela Anthropic, conseguiu identificar novas formas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos de criptografia mais utilizados no mundo, o Advanced Encryption Standard (AES). A descoberta, anunciada pela empresa nesta terça-feira (28), reforça as preocupações sobre os impactos que modelos de…
-
Caso do Claude alerta: sua conversa com IA pode estar no Google
Centenas de conversas de usuários com o chatbot Claude foram parar no Google. Mais de 200 históricos de bate-papo com a inteligência artificial (IA) da Anthropic, com informações pessoais e profissionais, apareceram em mecanismos de busca. Como? Por que? Em suma: geração de link público, indexação por buscadores e falta de aviso claro. O Claude…
-
Microsoft lança ferramentas de IA para reforçar cibersegurança
A Microsoft anunciou uma nova geração de ferramentas de inteligência artificial (IA) voltadas para cibersegurança, apostando em modelos especializados e agentes autônomos para proteger redes corporativas contra ameaças cada vez mais sofisticadas. A empresa apresentou o modelo MAI-Cyber-1-Flash, desenvolvido especificamente para tarefas de segurança, e o Project Perception, uma plataforma que utiliza equipes de agentes…
-
Grok, IA de Musk, teria levado homem a acreditar em perseguição
Uma conversa com o Grok, chatbot criado pela xAI, fez um homem da Irlanda do Norte acreditar que estava sendo perseguido e que precisava se proteger. O relato, divulgado pela BBC, expõe um dos desafios atuais da inteligência artificial: evitar que sistemas reforcem ideias falsas durante interações prolongadas. Adam Hourican conta que chegou a pegar…