Categoria: anthropic
-
Anthropic cede à pressão e libera IA Mythos 5 para testes de cibersegurança por órgãos europeus
A União Europeia obteve acesso ao Mythos 5, modelo de IA da Anthropic que despertou preocupações por sua capacidade de identificar vulnerabilidades em códigos. A agência de cibersegurança ENISA já começou a testar a ferramenta após meses de negociações com a empresa. O acesso ocorre em meio a restrições impostas ao modelo desde seu lançamento.…
-
Hackers roubam tokens de usuários do Claude e usam contas sem autorização
Hackers estão roubando sessões de usuários do Claude para utilizar suas contas de inteligência artificial (IA) sem autorização e consumir suas franquias de tokens. O problema foi identificado pela Anthropic depois que assinantes perceberam que o uso de suas contas aumentava mesmo quando não estavam utilizando o serviço. Um dos casos foi relatado por Grant…
-
Anthropic desconecta usuários do Claude após hackers roubarem sessões de login
A Anthropic começou a desconectar usuários do Claude de suas contas depois que hackers utilizaram sessões de login roubadas para consumir os limites de uso das vítimas e realizar cobranças não autorizadas. A empresa também removeu cartões de pagamento salvos nas contas afetadas e reembolsou cobranças adicionais que identificou como relacionadas à atividade dos invasores.…
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas
A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril. O caso…
-
Anthropic: Mythos encontra vulnerabilidades em algoritmos de criptografia
O Claude Mythos Preview, modelo de inteligência artificial (IA) desenvolvido pela Anthropic, conseguiu identificar novas formas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos de criptografia mais utilizados no mundo, o Advanced Encryption Standard (AES). A descoberta, anunciada pela empresa nesta terça-feira (28), reforça as preocupações sobre os impactos que modelos de…
-
Caso do Claude alerta: sua conversa com IA pode estar no Google
Centenas de conversas de usuários com o chatbot Claude foram parar no Google. Mais de 200 históricos de bate-papo com a inteligência artificial (IA) da Anthropic, com informações pessoais e profissionais, apareceram em mecanismos de busca. Como? Por que? Em suma: geração de link público, indexação por buscadores e falta de aviso claro. O Claude…